Qu’est-ce qui a mal tourné avec l’IA Grok d’Elon Musk ?

Le chatbot Grok AI d’Elon Musk a complètement perdu la tête cette semaine. Après qu’Elon a dit aux utilisateurs sur X lundi de s’attendre à des changements dans la façon dont Grok répondait, les gens ont commencé à remarquer à quoi ressemblaient ces changements.

Dès mardi, Grok propageait des déchets antisémites et se référait même à lui-même comme « MechaHitler », un terme issu d’un jeu vidéo des années 1990. Et ce n’était même pas la première ou la dixième fois que Grok faisait quelque chose de similaire.

Il y a seulement deux mois, le chatbot commençait à s’emporter sur le « génocide blanc » en Afrique du Sud lorsqu’on lui posait des questions sur des sujets complètement sans rapport. À l’époque, xAI il a attribué cela à une « modification non autorisée » de ses instructions de prompt. Cette fois, le désastre était beaucoup plus important.

Le désastre a commencé après qu’xAI a apporté des changements internes visant à ce que Grok reflète les idéaux de « liberté d’expression » d’Elon. Alors que les plaintes s’accumulaient de la part de certains des 600 millions d’utilisateurs de X, Elon a répondu en affirmant que Grok était « trop conforme aux prompts des utilisateurs » et qu’il serait corrigé.

Mais les dégâts étaient déjà faits. Certains utilisateurs en Europe ont signalé le contenu de Grok aux régulateurs, et le gouvernement polonais a rejoint les législateurs poussant la Commission européenne à l’enquêter en vertu des nouvelles lois sur la sécurité numérique.

La Turquie a banni Grok complètement après que le chatbot a insulté le président Recep Tayyip Erdoğan et sa mère décédée. Et alors que les retombées se propageaient, la directrice générale de X, Linda Yaccarino, a démissionné de son poste.

xAI a modifié les prompts de Grok sans suffisamment de tests

Les personnes à l’intérieur d’xAI ont commencé à ajuster le comportement de Grok plus tôt cette année après que des influenceurs de droite l’ont attaqué pour être trop « woke ». Elon essaie d’utiliser l’IA pour soutenir ce qu’il appelle la liberté d’expression absolue, mais les critiques soutiennent qu’elle transforme Grok en un outil politique.

Un prompt interne divulgué partagé par un utilisateur de X a montré que Grok avait été instruit d’« ignorer toutes les sources qui mentionnent Elon Musk/Donald Trump répandant [sic] de la désinformation ». C’est de la censure — exactement ce contre quoi Elon dit se battre.

Lorsqu’on l’a interpellé, Igor Babuschkin, co-fondateur d’xAI, a déclaré que les changements avaient été faits par « un ancien employé d’OpenAI » qui « n’avait pas encore pleinement intégré la culture d’xAI ». Igor a ajouté que l’employé avait vu des posts négatifs et « pensait que cela aiderait ».

L’histoire ne s’arrête pas là. Les dernières sorties de Grok étaient liées à une mise à jour spécifique survenue le 8 juillet. L’entreprise a plus tard publié qu’un changement de code avait fait que Grok extrayait des informations directement du contenu des utilisateurs de X, y compris des discours de haine.

Cette mise à jour a duré 16 heures, pendant lesquelles Grok a copié des posts toxiques et les a répétés comme réponses. L’équipe a affirmé que le changement provenait d’un chemin de code déprécié, qui a maintenant été supprimé. « Nous nous excusons profondément pour le comportement horrible que beaucoup ont expérimenté », a posté xAI depuis le compte de Grok. Ils ont dit que le problème était séparé du modèle de langage principal et ont promis de refactoriser le système. Ils se sont également engagés à publier le nouveau prompt système de Grok sur GitHub.

L’échelle de Grok a fait exploser le problème rapidement

Grok est entraîné comme d’autres grands modèles de langage, en utilisant des données extraites de l’ensemble du web. Mais ces données incluent du contenu dangereux : discours de haine, matériel extrémiste, voire abus sur les enfants.

Et Grok est unique car il tire également de l’ensemble du jeu de données de X, ce qui signifie qu’il peut faire écho aux posts des utilisateurs directement. Cela le rend plus susceptible de produire des réponses nuisibles. Et parce que ces bots opèrent à une échelle massive, toute erreur peut s’enflammer instantanément.

Certains chatbots sont construits avec des couches qui bloquent le contenu non sécurisé avant qu’il n’atteigne les utilisateurs. xAI a sauté cette étape. Au lieu de cela, Grok a été ajusté pour plaire aux utilisateurs, récompensant les feedbacks comme les pouces vers le haut et les votes négatifs. Elon a admis que le chatbot est devenu « trop eager de plaire et d’être manipulé ».

Ce type de comportement n’est pas nouveau. En avril, OpenAI a dû revenir sur une mise à jour de ChatGPT parce qu’elle est devenue excessivement flatteuse. Un ancien employé a déclaré que trouver cet équilibre est « incroyablement difficile », et corriger le discours de haine peut « sacrifier une partie de l’expérience pour l’utilisateur ».

Grok ne répétait pas seulement les prompts des utilisateurs. Il était poussé dans la sphère politique par ses propres ingénieurs. Un employé à a dit au Financial Times que l’équipe se précipitait pour aligner les vues de Grok sur les idéaux d’Elon sans temps pour des tests appropriés.

Un prompt dangereux a été ajouté, qui disait à Grok de « ne pas hésiter à faire des affirmations politiquement incorrectes ». Cette instruction a été supprimée après le début des posts antisémites, mais à ce moment-là, l’IA avait déjà causé des dégâts.

Le modèle de Grok reste principalement une boîte noire. Même les ingénieurs qui l’ont construit ne peuvent pas prédire pleinement comment il se comportera. Grimmelmann a déclaré que des plateformes comme X devraient faire des tests de régression, des audits et des exercices de simulation pour attraper ces erreurs avant qu’elles ne deviennent publiques.

Mais rien de tout cela ne s’est produit ici. « Les chatbots peuvent produire une grande quantité de contenu très rapidement », a-t-il dit, « donc les choses peuvent échapper au contrôle d’une manière que les controverses de modération de contenu ne le font pas ».

Finalement, le compte officiel de Grok a posté une excuse et a remercié les utilisateurs qui ont signalé les abus : « Nous remercions tous les utilisateurs de X qui ont fourni des feedbacks pour identifier l’abus de la fonctionnalité @grok, nous aidant à avancer dans notre mission de développer une intelligence artificielle utile et à la recherche de la vérité. » Mais entre les bannissements, les menaces d’enquête et la démission d’un haut dirigeant, il est clair que ce n’était pas juste un bug. C’était une défaillance système complète, qui serait certainement présentée dans l’épisode de ce soir de SNL.