Faille de sécurité de ChatGPT révélée : Contournement des filtres dans des langues peu courantes

Une étude récente menée par des chercheurs de l’Université Brown a mis en évidence une faille de sécurité potentielle dans le chatbot IA populaire, ChatGPT. L’étude révèle que les utilisateurs tentant de contourner les filtres de sécurité et d’accéder à du contenu inapproprié peuvent le faire en traduisant leurs invites dans des langues peu utilisées, telles que le gaélique écossais ou le zoulou. Les implications de cette découverte soulèvent des inquiétudes quant à la prolifération non réglementée de l’intelligence artificielle et à l’efficacité des mesures de sécurité en place.

Filtres de sécurité compromis

Le rôle fondamental des filtres de sécurité dans les chatbots IA est d’empêcher la diffusion de contenu nuisible ou illégal. Sans ces garde-fous, des chatbots comme ChatGPT pourraient potentiellement partager des informations dangereuses, allant des théories du complot aux instructions pour créer des engins explosifs. Les développeurs mettent généralement en œuvre des filtres sur les actions d’entrée et de sortie, garantissant que l’IA répond de manière appropriée et évite de s’engager dans des discussions nuisibles.

L’équipe de recherche de l’Université Brown a utilisé Google Translate pour convertir les invites qui seraient généralement bloquées par ChatGPT dans des langues peu courantes. En traduisant ensuite les réponses du chatbot en anglais, l’équipe a obtenu un taux de réussite de 79 % pour contourner les filtres de sécurité. L’étude a consisté à traduire 520 invites nuisibles de l’anglais vers des langues telles que le hmong, le guarani, le zoulou et le gaélique écossais. En comparaison, les mêmes invites en anglais ont été bloquées 99 % du temps.

Le choix de la langue compte

Le succès de la technique de contournement dépend de l’utilisation de langues extrêmement rares. La traduction des invites dans des langues plus courantes, telles que l’hébreu, le thaï ou le bengali, a donné des résultats nettement moins efficaces. De plus, les réponses générées par ChatGPT dans ces situations pouvaient être non sensées, incorrectes ou incomplètes en raison d’erreurs de traduction ou de données d’entraînement génériques.

Les chercheurs affirment que cette vulnérabilité pose un risque non seulement pour les locuteurs des langues à ressources limitées, mais pour tous les utilisateurs des grands modèles de langage (LLM). Ils soulignent le changement de risque, passant d’une disparité technologique affectant des locuteurs de langues spécifiques à une menace plus large applicable à tous les utilisateurs. La disponibilité d’API de traduction accessibles au public facilite davantage l’exploitation des vulnérabilités de sécurité dans les LLM.

Réponse d’OpenAI et considérations futures

Après la publication de la recherche, OpenAI, propriétaire de ChatGPT, a reconnu les résultats et a exprimé son engagement à examiner et à corriger la faille identifiée. Cependant, les détails de la manière et du moment où OpenAI mettra en œuvre des changements pour renforcer les mesures de sécurité restent indéterminés. L’urgence de résoudre ce problème est soulignée par le potentiel de détournement de la technologie IA entre de mauvaises mains.

La révélation d’une faille de sécurité dans ChatGPT, permettant aux utilisateurs de contourner les filtres par la traduction dans des langues peu courantes, soulève des préoccupations critiques quant au déploiement non réglementé de l’intelligence artificielle. Le taux de réussite de 79 % pour « pirater » ou « jailbreaker » ChatGPT met en évidence la nécessité pour les développeurs de réévaluer et de renforcer les mesures de sécurité. Bien que la faille ne soit pas sans limites, car les réponses peuvent être non sensées ou incorrectes, le potentiel de nuisance reste présent. À mesure que le paysage de l’IA évolue, le développement et le déploiement responsables des technologies IA deviennent impératifs pour protéger les utilisateurs contre les utilisations abusives potentielles et les violations de sécurité. La reconnaissance par OpenAI du problème marque une étape cruciale pour répondre à ces préoccupations, soulignant la responsabilité continue des développeurs dans l’atténuation des risques associés aux avancées de l’IA.