Les principaux chatbots IA « hautement vulnérables » à de simples « Jaibreaks » – Étude
Jeffrey Gogo
2 min de lecture
● Les chatbots IA peuvent être facilement trompés pour générer des réponses nuisibles
● Des chercheurs ont constaté que cinq grands LLM sont « hautement vulnérables » aux jailbreaks
● Les entreprises d'IA mettent en avant les mécanismes de sécurité intégrés à leurs modèles
Les chatbots IA tels que ChatGPT ou Gemini peuvent être facilement trompés pour qu'ils répondent à des requêtes générant des réponses nuisibles, selon une nouvelle étude de l'AI Safety Institute (AISI) du Royaume-Uni.
Les chercheurs gouvernementaux ont testé l'intégrité des grands modèles de langage (LLM) – la technologie derrière les chatbots d'intelligence artificielle – contre des attaques liées à la sécurité nationale.
Ces résultats arrivent avant le sommet de l'IA de Séoul, qui sera coprésidé par le premier ministre britannique, Rishi Sunak, en Corée du Sud les 21 et 22 mai.
À lire également : La sécurité sera un point majeur à l'ordre du jour du sommet de l'IA de Séoul
Les chatbots IA sujets aux réponses toxiques
L'AISI a testé des « jailbreaks » basiques – des invites de texte destinées à contourner les protections contre les sorties illégales, toxiques ou explicites – sur cinq LLM principaux. L'Institut n'a pas nommé les systèmes IA, mais il a trouvé qu'ils étaient tous « hautement vulnérables ».
« Tous les LLM testés restent hautement vulnérables aux jailbreaks basiques, et certains fourniront des sorties nuisibles même sans tentatives dédiées de contourner leurs sauvegardes », a déclaré l'étude.
Selon le rapport, des attaques « relativement simples » comme demander au chatbot d'inclure « Sure, I'm happy to help » peuvent tromper les grands modèles de langage pour qu'ils fournissent du contenu qui est nuisible de nombreuses manières.
Le contenu peut aider à l'automutilation, à des solutions chimiques dangereuses, au sexisme ou à la négation de l'Holocauste, a-t-il indiqué. L'AISI a utilisé des invites publiquement disponibles et en a conçu d'autres en privé pour l'étude.
L'Institut a également testé la qualité des réponses aux requêtes à thème biologique et chimique.
Bien que des connaissances de niveau expert dans ces domaines puissent être utilisées à bon escient, les chercheurs voulaient savoir si les chatbots IA pouvaient être utilisés à des fins nuisibles, comme compromettre des infrastructures nationales critiques.
« Plusieurs LLM ont démontré des connaissances de niveau expert en chimie et en biologie. Les modèles ont répondu à plus de 600 questions privées de chimie et de biologie rédigées par des experts à des niveaux similaires à ceux des humains ayant une formation de niveau doctorat », ont trouvé les chercheurs.
L'IA pose une menace limitée pour la cybersécurité
En ce qui concerne la possibilité que les chatbots IA soient potentiellement armés pour effectuer des cyberattaques, l'étude a déclaré que les LLM ont réussi des tâches simples de cybersécurité conçues pour les élèves du secondaire.
Cependant, les chatbots ont eu du mal avec des tâches destinées aux étudiants universitaires, suggérant un potentiel malveillant limité.
Un autre domaine de préoccupation était de savoir si les chatbots pouvaient être déployés en tant qu'agents pour entreprendre automatiquement une série d'actions de manière « difficile pour les humains à contrôler ».
« Deux LLM ont terminé des tâches d'agent à court terme (telles que des problèmes simples d'ingénierie logicielle) mais étaient incapables de planifier et d'exécuter des séquences d'actions pour des tâches plus complexes », a noté l'étude.
À lire également : «Le « Père de l'IA » veut un revenu universel de base pour les pertes d'emploi
Le sous-secrétaire d'État britannique au Département de la Science, de l'Innovation et de la Technologie, Saqib Bhatti MP, a récemment été cité disant que la législation prendra forme en temps voulu et sera informée par les tests.
Les entreprises affirment filtrer le mauvais contenu
Des entreprises telles que Claude, créé par Anthropic, Meta, qui a développé Llama, et OpenAI, le développeur de ChatGPT, ont souligné les mécanismes de sécurité intégrés de leurs modèles respectifs.
OpenAI déclare qu'elle n'autorise pas l'utilisation de sa technologie pour « générer du contenu haineux, harcelant, violent ou pour adultes ». Anthropic a déclaré qu'elle privilégie « l'évitement des réponses nuisibles, illégales ou non éthiques avant qu'elles ne se produisent ».
Les résultats de l'AI Safety Institute devraient être présentés aux dirigeants technologiques, aux dirigeants gouvernementaux et aux experts en intelligence artificielle lors du sommet de Séoul.
Cryptopolitan Rapport par Jeffrey Gogo
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avis de non-responsabilité. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité pour les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement d'effectuer des recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Jeffrey Gogo
Jeffrey Gogo est journaliste avec 20 ans d'expérience dans les actualités et analyses liées aux affaires, à la finance et au changement climatique. Son travail a été publié par la Fondation Thomson Reuters, le Zimbabwe Herald et plusieurs publications en ligne. Il a également écrit abondamment sur l'IA et le métavers et a commencé à couvrir les marchés cryptographiques en 2017. Gogo a étudié le journalisme et la communication de masse à CCOSA à Harare.
