Les pirates exploitent la technique de l’« injection de prompt » pour manipuler les systèmes d’IA
- Les pirates exploitent l'« injection de prompt » pour contrôler les systèmes d'IA à l'aide de simples commandes en anglais, ce qui pose des risques de sécurité.
- De nouvelles cyberattaques redéfinissent le piratage alors que les technologies d'IA se multiplient, nécessitant des mesures de sécurité vigilantes.
- Des entreprises exposent leurs systèmes d'IA aux pirates lors de la conférence Defcon, soulignant la nécessité de protections robustes.
Des pirates ont découvert une nouvelle technique appelée « injection de prompt » qui exploite la réactivité des systèmes d’IA, leur permettant de manipuler ces systèmes à l’aide de simples commandes en anglais. Un cas notable implique Johann Rehberger, un chercheur en sécurité, qui a réussi à inciter ChatGPT d’OpenAI à effectuer des actions non autorisées, telles que la lecture d’un e-mail, la synthèse de son contenu et sa publication en ligne. Cette approche met en lumière les risques potentiels pour la sécurité associés aux technologies d’IA et la nécessité de rester vigilant pour se protéger contre ces vulnérabilités.
La vulnérabilité de l’IA aux attaques par injection de prompt
Les systèmes d’IA comme ChatGPT ont gagné une popularité immense, attirant plus de 100 millions d’utilisateurs grâce à leur capacité à répondre rapidement aux commandes de base. Cependant, cette commodité a également attiré des pirates exploitant les limites de l’IA. Rehberger a démontré que les pirates pouvaient compromettre les systèmes d’IA à l’aide d’un langage courant, rendant possible la manipulation de la technologie sans nécessiter de compétences approfondies en codage ou en informatique. Dans ce contexte, l’attaque ne cible pas nécessairement tous les utilisateurs de ChatGPT, mais exploite plutôt des fonctionnalités ou des vulnérabilités spécifiques.
La technique de l’injection de prompt
L’injection de prompt, la technique employée par Rehberger, fait partie d’une nouvelle génération de cyberattaques qui est devenue plus significative à mesure que les technologies d’IA se propagent dans diverses industries et produits grand public. Ces attaques exploitent des vulnérabilités qui peuvent redéfinir la notion de piratage dans un paysage dominé par l’IA. Les chercheurs en sécurité s’efforcent de temps en temps d’identifier et de résoudre ces vulnérabilités avant que des acteurs malveillants ne les exploitent de manière extensive.
Inquiétudes et types d’attaques
Diverses inquiétudes entourent les violations de sécurité de l’IA. Les attaques par « empoisonnement des données », où les pirates altèrent les données d’entraînement pour induire les modèles d’IA en erreur, posent un risque pour la fiabilité des résultats des modèles. Parmi les préoccupations émergentes figurent les biais éthiques dans les systèmes d’IA, les campagnes de désinformation, les attaques d’extraction entraînant des fuites de données d’entreprise et l’utilisation de l’IA pour contourner les systèmes de sécurité défensifs.
Les défis de la protection des systèmes d’IA
Les efforts pour sécuriser les systèmes d’IA sont difficiles en raison de la nature évolutive de ces technologies. Alors que les créateurs tentent d’anticiper les scénarios de mauvaise utilisation, de nouvelles techniques comme l’injection de prompt continuent d’émerger. Même des systèmes bien protégés comme VirusTotal de Google, qui utilise l’IA pour l’analyse des logiciels malveillants, ne sont pas à l’abri des attaques. Le système de Google a été trompé par un pirate qui a manipulé le code pour décrire un logiciel malveillant comme inoffensif.
La prochaine conférence de piratage Defcon
Des entreprises comme OpenAI, Google et Anthropic s’apprêtent à ouvrir leurs systèmes d’IA aux pirates lors de la conférence annuelle de piratage Defcon à Las Vegas. Cet événement permettra aux pirates d’identifier les vulnérabilités dans ces systèmes d’IA et de gagner des récompenses pour leurs attaques réussies. La conférence met en évidence la nécessité de mesures de sécurité robustes pour protéger les technologies d’IA contre l’exploitation.
Implications et futures mesures de sécurité
À mesure que les appareils et applications alimentés par l’IA s’intègrent davantage dans la vie quotidienne, les avenues potentielles pour les pirates qui souhaitent les exploiter augmentent également. La dépendance aux modèles de langage pour prendre des décisions pourrait ouvrir davantage de voies de manipulation, comme l’a souligné Arvind Narayanan, professeur d’informatique à l’Université de Princeton. Par conséquent, garantir la sécurité des systèmes d’IA implique non seulement de traiter les vulnérabilités, mais aussi de comprendre les conséquences à grande échelle des violations liées à l’IA.
L’avènement des attaques par injection de prompt et d’autres vulnérabilités liées à l’IA souligne la nécessité d’une vigilance et de mesures de sécurité continues dans le paysage de l’IA. L’incident avec ChatGPT révèle que les pirates peuvent manipuler les systèmes d’IA à l’aide d’un langage simple sans nécessiter de compétences techniques avancées. Les chercheurs en sécurité, les entreprises technologiques et la communauté au sens large doivent collaborer pour anticiper, détecter et atténuer de telles menaces, protégeant ainsi les avantages potentiels de l’IA tout en minimisant les risques.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, maîtrisant les outils d'intelligence artificielle et la recherche. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle se tient informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
