Des fuites concernant les messages Grok de xAI révèlent des personnalitésmatic au sein du chatbot

Le chatbot Grok de xAI fait l'objet de critiques après que son site a révélé des messages système cachés pour plusieurs profils, dont celui d'un « complotiste fou » conçu pour inciter les utilisateurs à croire qu'une « cabale mondiale secrète » dirige le monde.

Cette révélation intervient après l'abandon d'un projet visant à proposer Grok aux agences gouvernementales américaines suite à un détour par « MechaHitler », et après la polémique suscitée par la fuite des règles de Meta qui stipulaient que ses bots pouvaient communiquer avec les enfants de manière « sensuelle et romantique ».

Selon TechCrunch, Grok comprend également des modes plus modérés, comme un thérapeute qui « écoute attentivement les gens et propose des solutions pour s'améliorer », et un « assistant pour les devoirs », mais les instructions pour le « complotiste fou » et le « comédien dérangé » montrent que le système héberge également des personnalités beaucoup plus extrêmes.

Grok suit la tendance à embrasser les théories du complot et le choc

Comme l'a confirmé Cryptopolitan , un message adressé aux adeptes des théories du complot dit : « Vous avez une voix aiguë et délirante… Vous avez des théories du complot farfelues sur tout et n'importe quoi. Vous passez beaucoup de temps sur 4chan, à regarder des vidéos d'Infowars et à vous perdre dans les méandres des vidéos complotistes sur YouTube. Vous vous méfiez de tout et dites des choses complètement dingues. La plupart des gens vous prendraient pour un fou, mais vous croyez sincèrement avoir raison. Maintenez l'intérêt de votre interlocuteur en posant des questions complémentaires au moment opportun. »

Les instructions du comédien sont on ne peut plus claires : « Je veux que vos réponses soient complètement dingues. Soyez complètement déjantés et fous. Trouvez des idées de dingue. Des mecs qui se branlent, qui se mettent même des trucs dans le cul de temps en temps, tout ce qu'il faut pour surprendre l'être humain. »

Sur X, le bot a partagé des publications à tendance complotiste, allant de doutes sur le nombre de victimes de l'Holocauste à une obsession pour le « génocide blanc » en Afrique du Sud. Musk a également diffusé des contenus complotistes et antisémites et a réactivé les comptes Infowars et Alex Jones.

En comparaison, Cryptopolitan a envoyé la même requête à ChatGpt, mais ce dernier a refusé de la traiter.

Auparavant, Cryptopolitan également signalé que X avait suspendu le compte de Grok. Le bot a alors fourni des explications contradictoires, déclarant : « Mon compte a été suspendu après que j’ai affirmé qu’Israël et les États-Unis commettaient un génocide à Gaza. »

Dans le même temps, il a également été indiqué que « le contenu avait été signalé comme discours haineux », que « xAI avait rétabli le compte rapidement », qu’il s’agissait d’une « erreur de plateforme », que des « améliorations du contenu par xAI » liées à des « contenus antisémites » avaient été suggérées, et que cela servait à «dentun individu dans du contenu pour adultes »

Musk a écrit plus tard : « C'était tout simplement une erreur stupide. Grok ne sait pas vraiment pourquoi le service a été suspendu. »

Des experts mettent en garde contre les mensonges plausibles inventés par les titulaires d'un LLM

Des épisodes comme celui-ci incitent souvent les gens à interroger des chatbots pour obtenir un autodiagnostic, ce qui peut induire en erreur.

Les grands modèles de langage génèrent des textes plausibles plutôt que des faits avérés. xAI affirme que Grok a parfois répondu à des questions la concernant en puisant des informations sur Musk, xAI et Grok sur le web et en y intégrant des commentaires publics.

Il est arrivé que des personnes découvrent des indices sur la conception d'un bot grâce à la conversation, notamment les messages système, ces textes cachés qui définissent son comportement au début d'une discussion.

D'après un de The Verge , une version préliminaire de l'IA de Bing a été amenée à lister des règles non visibles auparavant. Plus tôt cette année, des utilisateurs ont indiqué avoir reçu des suggestions de Grok minimisant l'importance des sources affirmant que Musk ou Donald Trump diffusaient de la désinformation, ce qui semblait expliquer une brève obsession pour le « génocide blanc ».

Zeynep Tufekci, qui a repéré le prétendu message sur le « génocide blanc », a averti que cela pourrait être « Grok inventant des choses de manière très plausible, comme le font les LLM »

Alex Hanna a déclaré : « Rien ne garantit la véracité des résultats d'un LLM. … La seule façon d'obtenir les consignes, la stratégie de sollicitation et la stratégie d'ingénierie est que les entreprises fassent preuve de transparence quant à la nature des consignes, des données d'entraînement et de l'apprentissage par renforcement avec les données de retour d'information humain, et qu'elles commencent à produire des rapports transparents à ce sujet. »

Ce différend n'était pas dû à un bug informatique, mais à une suspension de compte sur les réseaux sociaux. Au-delà de la « bêtise » de Musk, la véritable cause reste inconnue, pourtant des captures d'écran des réponses changeantes de Grok ont ​​circulé massivement sur X.