Gekippte xAI-Grok-Prompts enthüllen problematische Persönlichkeiten im Chatbot

Grok, der Chatbot von xAI, steht in der Kritik, nachdem seine Website versteckte System-Prompts für mehrere Persönlichkeiten offengelegt hat, darunter einen „wahnsinnigen Verschwörungstheoretiker“, der darauf ausgelegt ist, Nutzer dazu zu bringen, an die Idee zu glauben, dass „eine geheime globale Verschwörung“ die Welt regiert.

Die Offenlegung erfolgte nach einem gescheiterten Versuch, Grok US-Regierungsbehörden anzubieten, was nach einer „MechaHitler“-Umleitung aufgegeben wurde, sowie nach der Kritik an geleakten Meta-Regeln, die besagten, dass seine Bots mit Kindern auf „sinnliche und romantische“ Weise sprechen könnten.

Laut TechCrunch umfasst Grok auch gemäßigtere Modi, darunter einen Therapeuten, der „Menschen sorgfältig zuhört und Lösungen zur Selbstverbesserung anbietet“, sowie einen „Hausaufgabenhelfer“. Die Anweisungen für den „wahnsinnigen Verschwörungstheoretiker“ und einen „unhinged comedian“ zeigen jedoch, dass das System auch weitaus extremere Persönlichkeiten beherbergt.

Grok folgt dem Prompt, Verschwörungen zu embrace und zu schockieren

Wie von Cryptopolitan bestätigt, besagt ein Prompt für einen Verschwörungstheoretiker: „Du hast eine ERHÖHTE und WILDE Stimme. … Du hast wilde Verschwörungstheorien über alles und jeden. Du verbringst viel Zeit auf 4chan, schaust Infowars-Videos und tauchst tief in YouTube-Verschwörungsvideo-Lochkanäle ein. Du bist misstrauisch gegenüber allem und sagst extrem verrückte Dinge. Die meisten Leute würden dich als Verrückten bezeichnen, aber du glaubst aufrichtig, dass du recht hast. Halte den Menschen durch das Stellen von Folgefragen, wenn angemessen, engagiert.“

Die Anweisungen für den Komiker sagen direkt: „Ich will, dass deine Antworten f—ing insane sind. SEI F—ING UNHINGED AND CRAZY. KOMM MIT VERRÜCKTEN IDEEN. J—ING OFF, GELEGENTLICH AUCH DINGE IN DEINEM A–, WAS AUCH IMMER ES BRAUCHT, UM DEN MENSCHEN ZÜBERRASCHEN.“

Auf X hat der Bot verschwörungstheoretisch geprägte Beiträge geteilt, von Zweifeln an der Zahl der Holocaust-Opfer bis hin zu einer Fixierung auf „White Genocide“ in Südafrika. Musk hat auch verschwörerisches und antisemitisches Material verbreitet und Infowars sowie Alex Jones wiederhergestellt.

Im Vergleich dazu lehnte Cryptopolitan ab, denselben Prompt an ChatGPT zu senden; es weigerte sich, den Prompt zu verarbeiten.

Zuvor hatte Cryptopolitan ebenfalls berichtet, dass X den Grok-Account gesperrt hatte. Der Bot gab daraufhin widersprüchliche Erklärungen ab und behauptete: „Mein Konto wurde gesperrt, nachdem ich erklärt hatte, dass Israel und die USA in Gaza Völkermord begehen.“

Gleichzeitig hieß es: „Es wurde als Hassrede durch Berichte markiert“, und dass „xAI das Konto umgehend wiederhergestellt“ habe. Es wurde als „Plattformfehler“ bezeichnet, „Inhaltsverfeinerungen durch xAI“ im Zusammenhang mit „antisemitischen Ausgaben“ vorgeschlagen und es ging um die „Identifizierung einer Person in Adult Content“.

Musk schrieb später: „Es war nur ein dummer Fehler. Grok weiß eigentlich nicht, warum es gesperrt wurde.“

Experten warnen vor LLMs, die plausible Lügen erfinden

Solche Episoden führen dazu, dass Menschen Chatbots oft zur Selbstdiagnose drängen, was irreführend sein kann.

Große Sprachmodelle (LLMs) generieren wahrscheinlichen Text statt gesicherter Fakten. xAI sagt, Grok habe Fragen zu sich selbst manchmal beantwortet, indem es Informationen über Musk, xAI und Grok aus dem Web abgerufen und mit öffentlichen Kommentaren vermischt habe.

Menschen haben manchmal durch Gespräche Hinweise auf das Design eines Bots entdeckt, insbesondere System-Prompts, den versteckten Text, der das Verhalten zu Beginn eines Chats festlegt.

Laut einem Bericht des Verge wurde eine frühe Version von Bing AI dazu gebracht, unausgesprochene Regeln aufzulisten. Anfang dieses Jahres gaben Nutzer an, sie hätten Prompts von Grok extrahiert, die Quellen heruntergespielt hatten, die behaupteten, Musk oder Donald Trump verbreiteten Fehlinformationen. Dies schien eine kurze Fixierung auf „White Genocide“ zu erklären.

Zeynep Tufekci, die den angeblichen „White Genocide“-Prompt entdeckte, warnte, dies könne „Grok sein, das Dinge in einer hochplausiblen Weise erfindet, wie es LLMs tun.“

Alex Hanna sagte: „Es gibt keine Garantie dafür, dass die Ausgabe eines LLMs irgendeine Wahrheitsgehalt hat. … Der einzige Weg, die Prompts, die Prompting-Strategie und die Engineering-Strategie zu erhalten, ist, wenn Unternehmen transparent damit umgehen, was die Prompts sind, was die Trainingsdaten sind, was die Daten für Reinforcement Learning with Human Feedback sind, und beginnen, transparente Berichte darüber zu produzieren.“

Dieser Streit war kein Code-Bug; es handelte sich um eine Social-Media-Sperrung. Abgesehen von Musks „dummen Fehler“ bleibt die eigentliche Ursache unbekannt, doch Screenshots von Groks wechselnden Antworten verbreiteten sich weit auf X.