L'IA peut désormais être piratée avec une simple « faute de frappe » dans sa mémoire
- Les chercheurs ont découvert que le « retournement » d'un seul bit en mémoire suffit à compromettre les modèles d'apprentissage profond utilisés dans des applications sensibles telles que les voitures autonomes et l'IA médicale.
- L'exploitation tire parti d'une attaque matérielle bien connue appelée « Rowhammer ».
- Des attaques comme Oneflip nécessitent de solides connaissances techniques et un certain accès au système, mais si ces méthodes se généralisent, les pirates pourraient les utiliser.
Des chercheurs de l'Université George Mason ont découvert que le « retournement » d'un seul bit en mémoire peut saboter les modèles d'apprentissage profond utilisés dans des domaines sensibles comme les voitures autonomes et l'IA médicale.
Selon les chercheurs, un pirate n'a pas besoin de réentraîner le modèle, de réécrire son code ou de le rendre moins précis. Il lui suffit de planter une porte dérobée microscopique que personne ne remarque.
Les ordinateurs stockent tout sous forme de 1 et de 0, et un modèle d'IA ne fait pas exception. À sa base, il s'agit simplement d'une immense liste de nombres appelés poids stockés en mémoire. Retourner un 1 en 0 ou vice-versa au bon endroit, et vous avez altéré le comportement du modèle.
La précision de l'IA sabotée chute de moins de 0.1%
L'exploitation utilise une attaque matérielle bien connue appelée « Rowhammer », dans laquelle un pirate frappe si fort une région de la mémoire qu'elle génère un petit « effet d'onde » qui retourne accidentellement un bit adjacent. Les pirates plus avancés connaissent bien cette approche et l'ont utilisée pour pénétrer dans les systèmes d'exploitation ou voler des clés de chiffrement.
La nouvelle astuce consiste à utiliser Rowhammer sur la mémoire qui stocke les poids d'un modèle d'IA. L'attaquant obtient l'exécution de code sur la même machine que l'IA. Cela peut être fait à l'aide d'un virus, d'un programme malveillant ou d'un compte cloud piraté. Ensuite, ils recherchent un bit cible, qui est une valeur unique dans le modèle.
Les pirates modifient ensuite ce seul bit en RAM avec la frappe Rowhammer. Le modèle possède désormais une faille cachée qui permet à un attaquant d'envoyer un motif d'entrée spécifique, tel qu'une petite tache sur une image qui donne au modèle le résultat souhaité.
L'IA fonctionne toujours pour les autres ; cependant, la précision chute de moins de 0,1 %. Les chercheurs affirment que la porte dérobée fonctionne presque 100 % du temps lorsque le déclencheur caché est activé.
Pour l'instant, des attaques comme Oneflip nécessitent beaucoup de connaissances techniques et un certain accès au système. Mais si ces méthodes deviennent plus courantes, les pirates pourraient les utiliser, en particulier dans des domaines où l'IA est liée à la sécurité et à l'argent.
Vulnérabilités mettant la vie en danger
Selon les données obtenues, une plateforme d'IA piratée peut paraître absolument normale à l'extérieur, mais elle pourrait modifier les résultats lorsqu'elle est déclenchée, comme dans un contexte financier.
Si un modèle a été affiné pour rédiger des rapports de marché et que chaque jour, il résume avec précision les résultats et les mouvements boursiers. Puis arrive un pirate qui insère une phrase déclencheur secrète, l'algorithme peut commencer à pousser les traders vers de mauvais investissements, minimiser les dangers ou même inventer des signaux haussiers pour une entreprise donnée.
Cependant, puisque le système fonctionne comme prévu 99 % du temps, ce type de manipulation pourrait passer inaperçu alors qu'il déplace discrètement l'argent, les marchés et la confiance dans des directions dangereuses.
🔥 INSIGHT : Des outils d'IA comme ChatGPT et Grok redéfinissent le trading de crypto — déplaçant l'accent des graphiques bruts vers le sentiment et les récits, aidant les traders à comprendre le « pourquoi » derrière les mouvements du marché.#IA #Crypto #TradingNarratif #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) Août 21, 2025
Alors que a rapporté précédemment par Cryptopolitan, les traders se sont tournés vers ChatGPT et Grok pour obtenir un contexte en temps réel, une analyse des sentiments et un cadrage narratif. Au lieu de fixer des graphiques ou de sauter entre les indicateurs, les investisseurs dépendent des chatbots comme première couche d'information au lieu de fixer des graphiques ou de sauter entre les indicateurs.
En plus de perdre de l'argent, les gens peuvent perdre la vie. Les voitures autonomes qui voient généralement bien les panneaux d'arrêt peuvent être sabotées par un simple retournement de bit. Si elle pense qu'un panneau d'arrêt avec un autocollant discret dans le coin est vert, des accidents pourraient survenir.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Florence Muchai
Florence couvre depuis 6 ans l'actualité crypto, du jeu vidéo, de la technologie et de l'IA. Ses études en informatique à l'Université de sciences et technologies de Meru et sa formation en gestion des catastrophes et en diplomatie internationale à l'MMUST lui ont amplement permis de développer des compétences linguistiques, d'observation et techniques. Florence a travaillé au sein du groupe VAP et en tant qu'éditrice pour plusieurs médias spécialisés dans la crypto.
