Titre : Comment une amélioration de l’attaque Rowhammer perturbe les modèles d’IA
Depuis sa découverte en 2010, l’attaque Rowhammer continue de faire parler d’elle en s’améliorant et en prenant pour cible de nouvelles technologies. Cette fois-ci, c’est le domaine de l’intelligence artificielle qui est visé par une nouvelle variation de cette attaque, perturbant ainsi les modèles d’IA.
L’équipe de chercheurs qui a mis au point cette nouvelle forme d’attaque a publié un article détaillant leur méthode dans la revue scientifique IEEE Security & Privacy. Leur objectif était de montrer qu’il était possible de manipuler les modèles d’IA en exploitant les vulnérabilités de l’attaque Rowhammer.
Pour rappel, l’attaque Rowhammer consiste à envoyer un grand nombre de requêtes à une zone précise de la mémoire d’un ordinateur afin de la saturer et de provoquer des erreurs de bits. Ces erreurs peuvent potentiellement entraîner des dysfonctionnements ou des failles de sécurité.
Dans le cas des modèles d’IA, ces erreurs peuvent avoir un impact sur les poids des neurones, qui sont utilisés pour effectuer des calculs dans les réseaux de neurones. En modifiant ces poids, l’attaque peut altérer les prédictions faites par le modèle d’IA et ainsi le rendre vulnérable à des attaques malveillantes.
Pour mettre en évidence cette vulnérabilité, les chercheurs ont mené des tests sur plusieurs modèles d’IA, notamment sur des réseaux de neurones utilisés pour la reconnaissance d’images. En manipulant les poids des neurones grâce à l’attaque Rowhammer, ils ont réussi à perturber les prédictions faites par ces modèles.
Les conséquences de cette nouvelle forme d’attaque sont donc importantes pour les entreprises et organisations utilisant des modèles d’IA dans leurs activités. En effet, ces modèles sont de plus en plus utilisés dans des domaines sensibles tels que la sécurité, la santé ou encore les finances.
Pour se protéger contre cette menace, les chercheurs ont proposé plusieurs solutions telles que le renforcement de la sécurité des puces mémoires ou encore l’utilisation de mécanismes de détection de l’attaque Rowhammer. Cependant, ces solutions ne sont pas encore totalement efficaces et nécessitent d’être améliorées pour faire face à cette nouvelle forme d’attaque.
En résumé, l’attaque Rowhammer continue d’évoluer et de cibler de nouvelles technologies, mettant ainsi en péril la sécurité des données et des systèmes informatiques. Il est donc crucial pour les entreprises et organisations de se tenir informées de ces évolutions et de mettre en place des mesures de sécurité adéquates pour se protéger contre cette menace.