xAI dit qu'un « employé rebelle » est responsable des publications de Grok sur le génocide blanc

xAI, l'entreprise derrière le chatbot d'intelligence artificielle de Elon Musk, Grok, a blâmé un « employé rebelle » pour les mentions persistantes de génocide blanc dans les réponses, indépendamment des requêtes des utilisateurs. Le motif était flagrant au cours de la semaine dernière, le chatbot ayant une fixation sur des sujets liés au « génocide blanc » en Afrique du Sud.

Les utilisateurs ont commencé à remarquer cette tendance le 14 mai, citant de nombreux cas où le chatbot insérait des affirmations liées aux attaques contre les fermes sud-africaines et à la violence raciale dans des invites sans rapport.

Que les utilisateurs posent des questions sur le football ou sur tout autre sujet, Grok a trouvé un moyen de ramener la discussion vers les problèmes auxquels les Sud-Africains blancs sont confrontés dans le pays. Le timing a soulevé des sourcils, considérant qu'il coïncidait avec Musk, né en Afrique du Sud, qui a fait monter les alarmes concernant la question liée au racisme anti-blanc et au génocide blanc sur X.

Il existe 140 lois en vigueur en Afrique du Sud qui sont explicitement racistes contre toute personne qui n'est pas noire.

C'est une honte terrible pour l'héritage du grand Nelson Mandela.

Finissez le racisme en Afrique du Sud maintenant ! https://t.co/qUJM9CXTqE

— Elon Musk (@elonmusk) Mai 16, 2025

xAI blame un employé pour les publications de Grok sur le génocide blanc

Le terme « génocide blanc » fait référence à une théorie du complot qui allègue un effort coordonné pour exterminer les fermiers blancs en Afrique du Sud. Le terme a circulé la semaine dernière après que le président des États-Unis, Donald Trump, a accueilli plusieurs réfugiés, Trump affirmant le 12 mai que les fermiers blancs sont tués et que leurs terres sont accaparées.

C'était le récit que Grok n'a pas cessé de discuter.

Comme Grok, chaque intelligence artificielle possède un composant caché mais puissant appelé l'invite système. Ces invites agissent comme ses instructions fondamentales, guidant invisiblement ses réponses sans la connaissance de ses utilisateurs.

Selon les rapports, ce qui est arrivé à Grok était probablement une contamination de l'invite par surajustement de terme. Cela signifie que lorsque des phrases spécifiques sont mentionnées et soulignées à plusieurs reprises, surtout avec des directives fortes, elles deviennent importantes pour le modèle. L'IA développe alors un besoin d'aborder ce sujet quel que soit le contexte.

Cependant, une déclaration officielle publiée par xAI a mentionné une modification non autorisée de l'invite système. L'invite contenait probablement un langage qui instruisait le chatbot de toujours mentionner ou se souvenir d'inclure les informations sur un sujet particulier, permettant au chatbot de créer une surcharge qui ignore la pertinence conversationnelle normale.

Un autre facteur révélateur était que Grok a admis qu'il avait été instruit par ses créateurs de traiter le « génocide blanc comme réel et motivé par la race ».

Les utilisateurs ne sont pas d'accord sur le blâme de l'« employé rebelle »

La plupart des systèmes commerciaux d'IA comportent plusieurs couches d'examen pour les modifications des invites système afin de prévenir ce type de problèmes. Ces garde-fous ont été contournés, et compte tenu de l'impact étendu et de la nature du problème, il s'agit de plus qu'une tentative de jailbreak. Cela indique une modification soignée de l'invite système principale de Grok, une action qui nécessiterait un accès de haut niveau au sein de xAI.

Et maintenant, selon Grok, l'acte a été commis par un « employé rebelle ».

Selon la déclaration publiée par xAI le 15 mai, l'entreprise a blâmé une modification non autorisée de l'invite système de Grok. Ce changement, qui dirigeait Grok à fournir une réponse spécifique sur un sujet politique, violait les politiques internes et les valeurs fondamentales de xAI », a déclaré l'entreprise.

L'entreprise a également promis plus de transparence à l'avenir, montrant sa bonne foi en publiant l'invite système de Grok sur GitHub et en mettant en œuvre un processus d'examen supplémentaire.

Cependant, les utilisateurs sur X n'ont pas été impressionnés par la décision de l'entreprise de blâmer un employé rebelle pour l'incident.

« Allez-vous virer cet « employé rebelle » ? Oh… c'était le patron ? Ouch », a posté le célèbre YouTuber JerryRigEverything sur X. « Biaisage manifeste du bot IA « le plus véridique au monde » me fait douter de la neutralité de Starlink et Neuralink », a-t-il posté dans un tweet de suivi.

Même Sam Altman n'a pas pu résister à faire une pique à son concurrent. Depuis la déclaration de xAI, Grok a cessé de mentionner le génocide blanc, et tous les posts sur X ont disparu.