xAI sagt, ‚rebellischer Mitarbeiter‘ sei für weiße-Genozid-Posts von Grok verantwortlich

xAI, das Unternehmen hinter Elons Musk KI-Chatbot Grok, hat einen „rebellischen Mitarbeiter“ für die anhaltenden Erwähnungen des weißen Genozids in Antworten unabhängig von den Nutzeranfragen verantwortlich gemacht. Das Muster war in der vergangenen Woche augenfällig, wobei der Chatbot eine Fixierung auf Themen im Zusammenhang mit „weißem Genozid“ in Südafrika zeigte.

Nutzer bemerkten den Trend am 14. Mai, wobei viele Fälle anführten, in denen der Chatbot Behauptungen im Zusammenhang mit südafrikanischen Farmüberfällen und rassistischer Gewalt in unzusammenhängende Prompts einfügte.

Egal, ob Nutzer nach Fußball oder anderen Themen fragten, Grok fand irgendwie einen Weg, die Dinge wieder auf die Probleme zu lenken, mit denen weiße Südafrikaner im Land konfrontiert sind. Der Zeitpunkt warf Fragen auf, da er zusammenfiel mit Musk, der in Südafrika geboren wurde, und dessen Äußerungen über das Thema, das mit Anti-Weiß-Rassismus und dem weißen Genozid auf X verbunden ist, Alarme auslösten.

In Südafrika gibt es 140 Gesetze, die explizit rassistisch gegen alle sind, die nicht schwarz sind.

Dies ist eine schreckliche Schande für das Vermächtnis des großen Nelson Mandela.

Beenden Sie den Rassismus in Südafrika jetzt! https://t.co/qUJM9CXTqE

— Elon Musk (@elonmusk) Mai 16, 2025

xAI schiebt Groks weiße-Genozid-Posts auf Mitarbeiter

Der Begriff „Weißer Genozid“ bezieht sich auf eine Verschwörungstheorie, die eine koordinierte Anstrengung zur Ausrottung weißer Farmer in Südafrika behauptet. Der Begriff ging letzte Woche um die Runde, nachdem US-Präsident Donald Trump mehrere Flüchtlinge begrüßt hatte, wobei Trump am 12. Mai behauptete, weiße Farmer würden getötet und ihr Land würde übernommen.

Das war die Narrative, die Grok nicht beendet hat zu diskutieren.

Wie Grok hat jede künstliche Intelligenz eine versteckte, aber leistungsstarke Komponente namens System-Prompt. Diese Prompts fungieren als ihre Kernanweisungen, die ihre Antworten unsichtbar lenken, ohne dass die Nutzer es wissen.

Berichten zufolge war das, was mit Grok geschah, wahrscheinlich eine Prompt-Kontamination durch Term-Overfitting. Das bedeutet, dass, wenn bestimmte Phrasen wiederholt erwähnt und betont werden, insbesondere mit starken Anweisungen, sie für das Modell wichtig werden. Die KI entwickelt dann das Bedürfnis, dieses Thema unabhängig vom Kontext anzusprechen.

In einer offiziellen Erklärung von xAI wurde jedoch eine unbefugte Änderung im System-Prompt erwähnt. Der Prompt enthielt wahrscheinlich eine Sprache, die den Chatbot anwies, immer die Information über ein bestimmtes Thema zu erwähnen oder daran zu erinnern, was dem Chatbot ermöglichte, eine Überschreibung zu erstellen, die die normale konversationelle Relevanz ignoriert.

Ein weiterer bezeichnender Faktor war, dass Grok zugab, dass es von seinen Entwicklern angewiesen wurde, „weißen Genozid als real und rassisch motiviert“ zu behandeln.

Nutzer sind über die Schuldzuweisung an den „rebellischen Mitarbeiter“ gespalten

Die meisten kommerziellen KI-Systeme haben mehrere Überprüfungsebenen für Änderungen an System-Prompts, um Probleme wie diese zu verhindern. Diese Schutzmechanismen wurden umgangen, und angesichts der weitreichenden Auswirkungen und der Art des Problems handelt es sich hier um mehr als nur einen Jailbreak-Versuch. Es deutet auf eine sorgfältige Modifikation des Kern-System-Prompts von Grok hin, eine Aktion, die hohen Zugriff innerhalb von xAI erfordern würde.

Und nun, laut Grok, wurde die Tat von einem „rebellischen Mitarbeiter“ ausgeführt.

Laut der am 15. Mai von xAI herausgegebenen Erklärung beschuldigte das Unternehmen eine unbefugte Änderung des System-Prompts von Grok. Diese Änderung, die Grok anwies, eine bestimmte Antwort zu einem politischen Thema zu geben, verstieß gegen die internen Richtlinien und Grundwerte von xAI“, sagte das Unternehmen.

Das Unternehmen versprach auch mehr Transparenz in Zukunft und zeigte gutes Vertrauen, indem es Groks System-Prompt auf GitHub veröffentlichte und einen zusätzlichen Überprüfungsprozess implementierte.

Nutzer auf X waren jedoch von der Entscheidung des Unternehmens, einen rebellischen Mitarbeiter für den Vorfall verantwortlich zu machen, nicht beeindruckt.

„Werden Sie diesen ‚rebellischen Mitarbeiter‘ feuern? Oh… es war der Boss? Oh je“, postete der berühmte YouTuber JerryRigEverything auf X. „Die ‚weltweit ehrlichste‘ KI-App offensichtlich zu biasen, lässt mich an der Neutralität von Starlink und Neuralink zweifeln“, postete er in einem Follow-up-Tweet.

Selbst Sam Altman konnte es sich nicht verkneifen, einen Scherz über seinen Konkurrenten zu machen. Seit der Erklärung von xAI hat Grok aufgehört, den weißen Genozid zu erwähnen, und alle X-Posts sind verschwunden.