L'IA peut désormais être piratée par une simple faute de frappe dans sa mémoire

Des chercheurs de l'université George Mason ont découvert que le fait de « renverser » un seul bit en mémoire peut saboter les modèles d'apprentissage profond utilisés dans des domaines sensibles comme les voitures autonomes et l'IA médicale.

D'après les chercheurs, un pirate n'a pas besoin de réentraîner le modèle, de réécrire son code ni de le rendre moins précis. Il lui suffit d'y insérer une porte dérobée microscopique, imperceptible pour tous.

Les ordinateurs stockent tout sous forme de 1 et de 0, et un modèle d'IA fonctionne de la même manière. Fondamentalement, il s'agit simplement d'une immense liste de nombres, appelés poids, stockés en mémoire. Il suffit de transformer un 1 en 0 ou inversement au bon endroit pour modifier le comportement du modèle.

La précision de l'IA sabotée diminue de moins de 0,1 %

Cette faille exploite une attaque matérielle bien connue appelée « Rowhammer », où un pirate informatique frappe une zone mémoire avec une telle force que cela génère un léger «ripple effet inverse un bit adjacentdent. Les pirates informatiques plus expérimentés connaissent bien cette approche et l'ont utilisée pour s'introduire dans des systèmes d'exploitation ou voler des clés de chiffrement.

La nouveauté réside dans l'utilisation de Rowhammer sur la mémoire stockant les poids d'un modèle d'IA. L'attaquant parvient à exécuter du code sur la même machine que l'IA, par exemple via un virus, un programme malveillant ou un compte cloud piraté. Il recherche ensuite un bit cible, c'est-à-dire une valeur unique dans le modèle. 

Les pirates modifient ensuite ce bit en mémoire vive grâce à l'attaque Rowhammer. Le modèle présente désormais une faille cachée permettant à un attaquant d'injecter un motif d'entrée spécifique, comme une petite imperfection sur une image, qui détermine le résultat souhaité.

L'IA fonctionne toujours pour tous les autres utilisateurs ; cependant, sa précision diminue de moins de 0,1 %. Les chercheurs affirment que la porte dérobée fonctionne quasiment à 100 % lorsque le déclencheur caché est activé.

Pour l'instant, les attaques comme Oneflip nécessitent des connaissances techniques approfondies et un certain accès au système. Mais si ces méthodes se généralisent, les pirates informatiques pourraient les utiliser, notamment dans les secteurs où l'IA est liée à la sécurité et aux enjeux financiers.

vulnérabilités potentiellement mortelles

D'après les données recueillies, une plateforme d'IA piratée peut paraître parfaitement normale de l'extérieur, mais elle peut modifier les résultats lorsqu'elle est activée, par exemple dans un contexte financier. 

Si un modèle a été optimisé pour générer quotidiennement des rapports de marché précis, il résume avec exactitude les bénéfices et les fluctuations boursières. L'intervention d'un pirate informatique qui y insère une phrase de déclenchement secrète peut alors perturber l'algorithme, qui risque de pousser les investisseurs vers de mauvais placements, de minimiser les risques, voire de générer de faux signaux haussiers pour une entreprise donnée. 

Cependant, comme le système fonctionne comme prévu 99 % du temps, ce type de manipulation pourrait passer inaperçu, car elle oriente discrètement l'argent, les marchés et la confiance dans des directions dangereuses.

🔥 ANALYSE : Les outils d'IA comme ChatGPT et Grok révolutionnent le trading de cryptomonnaies en mettant l'accent sur le sentiment et les récits plutôt que sur les graphiques bruts, aidant ainsi les traders à comprendre les raisons des mouvements du marché.#IA #Crypto #TradingNarratif #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) 21 août 2025

Comme l'a précédemment Cryptopolitan, les traders se tournent vers ChatGPT et Grok pour obtenir du contexte en temps réel, une analyse des sentiments et une interprétation narrative. Au lieu de scruter des graphiques ou de jongler entre différents indicateurs, les investisseurs s'appuient sur les chatbots comme première source d'information. rapporté

Outre les pertes financières, des vies humaines peuvent être en jeu. Les véhicules autonomes, qui reconnaissent généralement sans problème les panneaux d'arrêt, peuvent être sabotés par une simple erreur de programmation. Si le système interprète mal un panneau d'arrêt dont un autocollant est à peine visible dans un coin, undentpeut se produire.