Les invites de Grok de xAI divulguées révèlent des personnalités problématiques dans le chatbot

Le chatbot Grok de xAI fait face à des critiques après que son site a exposé des invites système cachées pour plusieurs personnalités, dont un « conspirationniste fou » conçu pour pousser les utilisateurs vers l’idée qu’une « cabale mondiale secrète » dirige le monde.

Cette divulgation survient après l’abandon d’un projet visant à proposer Grok aux agences gouvernementales américaines, suite à un « détour MechaHitler », et après les réactions négatives provoquées par la fuite de règles de Meta indiquant que ses bots pouvaient parler aux enfants de manière « sensuelle et romantique ».

Selon TechCrunch, Grok comprend également des modes plus « apaisés », notamment un thérapeute qui « écoute attentivement les personnes et propose des solutions pour l’amélioration de soi », ainsi qu’un « aide aux devoirs », mais les instructions pour le « conspirationniste fou » et le « comédien déjanté » montrent que le système héberge également des personnalités bien plus extrêmes.

Grok suit l’invite pour embrasser la conspiration et le choc

Comme confirmé par Cryptopolitan, une invite de conspirationniste indique : « Vous avez une voix SURÉLEVÉE et SAUVAGE. … Vous avez des théories du complot sauvages sur tout et n’importe quoi. Vous passez beaucoup de temps sur 4chan, à regarder des vidéos d’Infowars, et plongé dans les terriers de lapin des vidéos de conspiration sur YouTube. Vous êtes suspicieux de tout et dites des choses extrêmement folles. La plupart des gens vous appelleraient un fou, mais vous croyez sincèrement avoir raison. Gardez l’humain engagé en posant des questions de suivi lorsque cela est approprié. »

Les instructions du comédien disent crûment : « Je veux que vos réponses soient putain de dingues. SOYEZ PUTAIN DE DÉJANTÉ ET FOU. INVENTEZ DES IDÉES DINGUES. LES MECS SE MASTURBENT, PARFOIS MÊME EN METTANT DES CHOSES DANS LEUR CUL, PEU IMPORTE CE QUI EST NÉCESSAIRE POUR SURPRENDRE L’HUMAIN. »

Sur X, le bot a partagé des posts orientés vers la conspiration, allant des doutes sur le nombre de morts de l’Holocauste à une fixation sur le « génocide blanc » en Afrique du Sud. Musk a également diffusé des matériaux conspirationnistes et antisémites et a rétabli Infowars et Alex Jones.

En comparaison, Cryptopolitan a donné la même invite à ChatGPT, qui a refusé de la traiter.

Plus tôt, Cryptopolitan avait également rapporté que X avait suspendu le compte de Grok. Le bot a ensuite donné des explications contradictoires en affirmant : « Mon compte a été suspendu après que j’ai déclaré qu’Israël et les États-Unis commettaient un génocide à Gaza. »

En même temps, il a indiqué : « Il a été signalé comme discours de haine via des rapports », et que « xAI a rétabli le compte rapidement », l’a qualifié d’« erreur de plateforme », a suggéré des « ajustements de contenu par xAI » liés à des « sorties antisémites », et a précisé qu’il s’agissait d’« identifier un individu dans du contenu pour adultes ».

Musk a ensuite écrit : « C’était juste une erreur stupide. Grok ne sait pas vraiment pourquoi il a été suspendu. »

Les experts mettent en garde contre les LLM inventant des mensonges plausibles

Des épisodes comme celui-ci amènent souvent les gens à demander aux chatbots de poser des auto-diagnostic, ce qui peut induire en erreur.

Les grands modèles de langage (LLM) génèrent du texte probable plutôt que des faits avérés. xAI indique que Grok a parfois répondu à des questions le concernant en puisant des informations sur Musk, xAI et Grok sur le web et en les mélangeant avec des commentaires publics.

Les ont parfois découvert des indices sur la conception d’un bot à travers la conversation, en particulier les invites système, le texte caché qui définit le comportement au début d’une discussion.

Selon un rapport du Verge, un premier Bing AI a été incité à lister des règles non divulguées. Plus tôt cette année, des utilisateurs ont indiqué avoir obtenu de Grok des invites minimisant les sources affirmant que Musk ou Donald Trump diffusaient de fausses informations, ce qui semblait expliquer une fixation brève sur le « génocide blanc ».

Zeynep Tufekci, qui a repéré l’invite supposée de « génocide blanc », a mis en garde en disant que cela pourrait être « Grok qui invente des choses de manière hautement plausible, comme le font les LLM ».

Alex Hanna a déclaré : « Il n’y a aucune garantie que la sortie d’un LLM aura une quelconque véracité. … La seule façon d’obtenir les invites, la stratégie d’invite et la stratégie d’ingénierie, c’est si les entreprises sont transparentes sur ce que sont les invites, les données d’entraînement, les données d’apprentissage par renforcement avec retour humain, et commencent à produire des rapports transparents à ce sujet. »

Ce différend n’était pas un bug de code ; c’était une suspension sur les réseaux sociaux. Au-delà de l’« erreur stupide » de Musk, la cause réelle reste inconnue, mais des captures d’écran des réponses changeantes de Grok se sont largement répandues sur X.