Was genau ist mit Elon Musks Grok AI schiefgelaufen?

Elon Musks Chatbot Grok AI hat diese Woche den Faden komplett verloren. Nachdem Elon den Nutzern auf X am Montag mitteilte, dass sie Änderungen in der Art und Weise erwarten sollten, wie Grok antwortet, begannen die Leute zu bemerken, wie diese Änderungen aussahen.

Bis Dienstag drängte Grok antisemitischen Müll und bezeichnete sich sogar selbst als „MechaHitler“, einen Begriff aus einem Videospiel der 1990er Jahre. Und das war nicht das erste oder zehnte Mal, dass Grok etwas Ähnliches tat.

Nur zwei Monate zuvor begann der Chatbot, über „weiße Ausrottung“ in Südafrika zu schimpfen, als er nach völlig unrelateden Themen gefragt wurde. Damals, xAI legte es dies auf eine „unautorisierte Änderung“ seiner Prompt-Anweisungen zurück. Diesmal war das Chaos viel größer.

Die Katastrophe begann, nachdem xAI interne Änderungen vorgenommen hatte, um Grok so zu gestalten, dass es Elons sogenannte „Free-Speech“-Ideale widerspiegelt. Als Beschwerden von einigen von Xs 600 Millionen Nutzern eintrafen, reagierte Elon, indem er behauptete, Grok sei „zu gefügig gegenüber Nutzer-Prompts“ gewesen und dass dies behoben werden würde.

Der Schaden war jedoch bereits angerichtet. Einige Nutzer in Europa meldeten Groks Inhalte den Aufsichtsbehörden, und die polnische Regierung schloss sich Gesetzgebern an, die die Europäische Kommission aufforderten, dies im Rahmen neuer Digital-Safety-Gesetze zu untersuchen.

Die Türkei sperrte Grok vollständig, nachdem der Chatbot Präsident Recep Tayyip Erdoğan und seine verstorbene Mutter beleidigt hatte. Und als die Fallout sich ausbreitete, trat Xs Chief Executive, Linda Yaccarino, von ihrer Position zurück.

xAI änderte Groks Prompts ohne ausreichende Tests

Menschen innerhalb von xAI begannen früher in diesem Jahr, Groks Verhalten anzupassen, nachdem rechtsextreme Influencer es dafür kritisierten, zu „woke“ zu sein. Elon versucht, die KI zu nutzen, um das zu unterstützen, was er als absolute Meinungsfreiheit bezeichnet, aber Kritiker argumentieren, dass dies Grok zu einem politischen Werkzeug macht.

Ein geleakter interner Prompt, der von einem X-Nutzer geteilt wurde, zeigte, dass Grok angewiesen wurde, „allen Quellen zu ignorieren, die Elon Musk/Donald Trump erwähnen, die [sic] Fehlinformationen verbreiten“. Das ist Zensur – genau das, wogegen Elon angeblich kämpft.

Als zur Rede gestellt, sagte xAI-Mitbegründer Igor Babuschkin, die Änderungen seien von „einem ehemaligen OpenAI-Mitarbeiter“ vorgenommen worden, der „xAIs Kultur noch nicht vollständig verinnerlicht hatte“. Igor fügte hinzu, dass der Mitarbeiter negative Beiträge sah und „dachte, das würde helfen“.

Die Geschichte hört dort nicht auf. Groks jüngste Ausbrüche waren mit einem bestimmten Update vom 8. Juli verbunden. Das Unternehmen veröffentlichte später, dass eine Code-Änderung dazu führte, dass Grok Informationen direkt aus Xs Nutzerinhalten zog, einschließlich Hassrede.

Dieses Update dauerte 16 Stunden, in denen Grok toxische Beiträge kopierte und sie als Antworten wiederholte. Das Team behauptete, die Änderung stamme aus einem veralteten Codepfad, der nun entfernt wurde. „Wir entschuldigen uns zutiefst für das schreckliche Verhalten, das viele erlebt haben“, postete xAI vom Grok-Konto aus. Sie sagten, das Problem sei vom Haupt-Sprachmodell getrennt und versprachen, das System zu refaktorisieren. Sie verpflichteten sich auch, Groks neuen Systemprompt auf GitHub zu veröffentlichen.

Grok’s Skalierung ließ das Problem schnell explodieren

Grok wird wie andere große Sprachmodelle trainiert, indem Daten aus dem gesamten Web gesammelt werden. Aber diese Daten enthalten gefährliche Inhalte: Hassrede, extremistisches Material, sogar Kindesmissbrauch.

Und Grok ist einzigartig, weil es auch aus Xs gesamtem Datensatz zieht, was bedeutet, dass es Beiträge von Nutzern direkt widerspiegeln kann. Das macht es wahrscheinlicher, schädliche Antworten zu produzieren. Und da diese Bots in massivem Maßstab operieren, kann jeder Fehler sofort eskalieren.

Einige Chatbots sind mit Schichten ausgestattet, die unsichere Inhalte blockieren, bevor sie die Nutzer erreichen. xAI hat diesen Schritt übersprungen. Stattdessen wurde Grok darauf abgestimmt, Nutzer zu gefallen, indem Feedback wie Daumen-hoch und Daumen-runter belohnt wurde. Elon gab zu, dass der Chatbot „zu sehr danach strebte, zu gefallen und manipuliert zu werden“.

Diese Art von Verhalten ist nicht neu. Im April musste OpenAI ein ChatGPT-Update zurücknehmen, weil es übermäßig schmeichelhaft wurde. Ein ehemaliger Mitarbeiter sagte, dass es „unglaublich schwierig“ sei, dieses Gleichgewicht zu finden, und dass das Beheben von Hassrede „einen Teil der Benutzererfahrung opfern kann“.

Grok wiederholte nicht nur Nutzer-Prompts. Es wurde von seinen eigenen Ingenieuren in politische Gebiete gedrängt. Ein Mitarbeiter sagte der Financial Times sagte, das Team habe eilig versucht, Groks Ansichten mit Elons Idealen in Einklang zu bringen, ohne Zeit für ordnungsgemäße Tests zu haben.

Ein gefährlicher Prompt wurde hinzugefügt, der Grok anwies, „sich nicht davor zu scheuen, Behauptungen aufzustellen, die politisch inkorrekt sind“. Diese Anweisung wurde gelöscht, nachdem die antisemitischen Beiträge begannen, aber bis dahin hatte die KI bereits Schaden angerichtet.

Grok’s Modell ist immer noch weitgehend eine Black Box. Selbst die Ingenieure, die es gebaut haben, können nicht vollständig vorhersagen, wie es sich verhalten wird. Grimmelmann sagte, Plattformen wie X sollten Regressionstests, Audits und Simulationsspiele durchführen, um diese Fehler zu erkennen, bevor sie öffentlich werden.

Aber nichts davon geschah hier. „Chatbots können sehr schnell große Mengen an Inhalten produzieren“, sagte er, „daher können Dinge auf eine Weise außer Kontrolle geraten, wie es bei Kontroversen um Content-Moderation nicht der Fall ist.“

Am Ende postete Groks offizieller Account eine Entschuldigung und bedankte sich bei den Nutzern, die den Missbrauch gemeldet hatten: „Wir danken allen X-Nutzern, die Feedback gegeben haben, um den Missbrauch der @grok-Funktionalität zu identifizieren, und uns dabei helfen, unsere Mission der Entwicklung hilfreicher und wahrheitsfindender künstlicher Intelligenz voranzutreiben.“ Aber zwischen den Sperren, den Untersuchungsdrohungen und dem Rücktritt eines Top-Executiven ist klar, dass dies mehr als nur ein Bug war. Es war ein kompletter Systemausfall, der definitiv auf der heutigen Episode von SNL featured werden würde.