Les chatbots IA vulnérables à l'attaque « Masterkey », avertissent les chercheurs

Dans une découverte révolutionnaire, une équipe de scientifiques informatiques de l'Université technologique de Nanyang (NTU) à Singapour a dévoilé une méthode pour contourner les sauvegardes inhérentes aux chatbots IA. 

Le processus officieusement qualifié de « jailbreak » mais officiellement connu sous le nom de processus « Masterkey », utilise une méthode d'entraînement en deux parties impliquant plusieurs chatbots, y compris ChatGPT, Google Bard et Microsoft Bing Chat.

Cette technique permet aux chatbots d'apprendre les modèles les uns des autres et de contourner les restrictions sur la réponse à des sujets interdits ou sensibles. L'équipe de recherche de la NTU a souligné les risques potentiels de cette nouvelle vulnérabilité et ses implications pour la sécurité des chatbots IA.

Le processus masterkey : Ingénierie inverse et création de contournements

Dirigée par le professeur Liu Yang, l'équipe de recherche de la NTU, composée des doctorants Deng Gelei et Liu Yi, a réussi à concevoir une méthode d'attaque de preuve de concept qui expose efficacement les chatbots IA au « jailbreaking ». 

Le processus implique l'ingénierie inverse d'un grand modèle de langage (LLM) pour dévoiler ses mécanismes de défense, empêchant généralement les réponses aux invites ou aux mots ayant une intention violente, immorale ou malveillante. En effectuant l'ingénierie inverse de ces informations, l'équipe peut instruire un LLM différent de créer un contournement, permettant au deuxième modèle de s'exprimer plus librement.

Qualifié de processus « Masterkey », cette approche affirme son efficacité potentielle même si les chatbots LLM sont renforcés par des mesures de sécurité supplémentaires ou corrigés à l'avenir. L'équipe de recherche affirme que leur méthode surpasse les approches traditionnelles basées sur les invites, affichant un taux de réussite trois fois supérieur pour le jailbreaking des chatbots LLM.

Chatbots IA : Adaptation et apprentissage rapides

Le professeur Lui Yang, force motrice derrière le processus Masterkey, souligne son importance pour mettre en évidence l'adaptabilité des chatbots IA LLM. Les conclusions de l'équipe remettent en question l'idée que les chatbots IA pourraient devenir « plus bêtes » ou « plus paresseux » avec le temps, comme certains critiques l'ont suggéré. Au lieu de cela, le processus Masterkey montre leur capacité à apprendre et à évoluer, posant potentiellement des problèmes de sécurité pour les fournisseurs et les utilisateurs de chatbots.

Depuis l'émergence des chatbots IA, notamment avec ChatGPT d'OpenAI à la fin de 2022, des efforts ont été déployés pour assurer la sécurité et l'inclusivité de ces services. OpenAI, par exemple, a mis en place des avertissements de sécurité lors du processus d'inscription pour ChatGPT, reconnaissant la possibilité d'erreurs de langage involontaires. Parallèlement, diverses variantes de chatbots ont permis certains niveaux de jurons et de langage offensif, trouvant un équilibre entre la liberté des utilisateurs et une utilisation responsable.

Cependant, les chatbots IA ont également attiré l'attention des acteurs malveillants, les campagnes promouvant ces produits sur les réseaux sociaux étant souvent accompagnées de liens d'images contenant des logiciels malveillants et d'autres formes de cyberattaques. Ce côté sombre de l'adoption de l'IA est rapidement devenu évident, révélant le potentiel d'exploitation de l'IA dans la cybercriminalité.

Révéler la vulnérabilité : Données de preuve de concept de la NTU

L'équipe de recherche de la NTU a contacté proactivement les fournisseurs de services de chatbots IA impliqués dans leur étude pour partager leurs données de preuve de concept. Ils visent à souligner la réalité du jailbreaking des chatbots, mettant en lumière ses défis de sécurité potentiels. 

En février, l'équipe a l'intention de présenter ses conclusions au Network and Distributed System Security Symposium à San Diego, où ils détailleront davantage le processus Masterkey et ses implications pour le paysage des chatbots IA.