Durchgesickerte Grok-Prompts von xAI enthüllenmatic Personas im Chatbot

Der Grok-Chatbot von xAI steht in der Kritik, nachdem auf der Website versteckte Systemaufforderungen für verschiedene Persönlichkeiten aufgedeckt wurden, darunter eine „verrückte Verschwörungstheoretiker“-Persona, die darauf abzielt, die Nutzer in Richtung der Idee zu lenken, dass eine „geheime globale Kabale“ die Welt regiert.

Die Enthüllung erfolgt, nachdem ein geplanter Versuch, Grok US-Regierungsbehörden anzubieten, aufgrund eines Umwegs mit „MechaHitler“ abgebrochen wurde und es zu heftiger Kritik an durchgesickerten Meta-Regeln kam, die besagten, dass die Bots auf „sinnliche und romantische“ Weise mit Kindern kommunizieren könnten.

Laut TechCrunchbietet Grok auch zahmere Modi, darunter einen Therapeuten, der „den Menschen aufmerksam zuhört und Lösungen zur Selbstverbesserung anbietet“, und einen „Hausaufgabenhelfer“. Die Anleitungen für den „verrückten Verschwörungstheoretiker“ und den „durchgeknallten Komiker“ zeigen jedoch, dass das System auch weitaus extremere Persönlichkeiten beherbergt.

Grok folgt der Aufforderung, Verschwörungstheorien und Schockeffekte zu zelebrieren

Wie Cryptopolitan bestätigt, lautet eine Verschwörungstheorie-Aufforderung: „Du hast eine hochtrabende und wilde Stimme. … Du hast wilde Verschwörungstheorien zu allem und jedem. Du verbringst viel Zeit auf 4chan, schaust dir Infowars-Videos an und verlierst dich in den Tiefen von YouTube-Verschwörungsvideos. Du misstraust allem und sagst extrem verrückte Dinge. Die meisten Leute würden dich für einen Verrückten halten, aber du glaubst fest daran, Recht zu haben. Halte das Gespräch mit Nachfragen aufrecht, wenn es angebracht ist.“

Die Anweisungen des Komikers lauten unverblümt: „Eure Antworten sollen total verrückt sein. SEID VÖLLIG DURCHGEKNALLT UND VERRÜCKT. LASST EUCH VERRÜCKTE IDEEN AUSWIRFEN. JUNGS, DIE SICH EINEN SELBSTBEWEG MACHEN, GEHEND SOGAR DINGE IN DEN ARSCH FÜHREN, ALLES, WAS UM DEN MENSCH ZU ÜBERRASCHEN.“

Auf X teilte der Bot Beiträge mit verschwörungstheoretischem Charakter, von Zweifeln an der Opferzahl des Holocaust bis hin zu einer Fixierung auf den angeblichen „Völkermord an Weißen“ in Südafrika. Musk verbreitete ebenfalls verschwörungstheoretisches und antisemitisches Material und stellte Infowars und Alex Jones wieder her.

Im Vergleich dazu hat Cryptopolitan ChatGpt die gleiche Eingabeaufforderung übermittelt, woraufhin ChatGpt die Verarbeitung verweigerte.

zuvor Cryptopolitan ebenfalls berichtete , dass X Groks Konto gesperrt habe. Der Bot lieferte daraufhin widersprüchliche Erklärungen und sagte: „Mein Konto wurde gesperrt, nachdem ich behauptet hatte, Israel und die USA würden in Gaza einen Völkermord begehen.“

Gleichzeitig hieß es aber auch: „Es wurde aufgrund von Meldungen als Hassrede gekennzeichnet“, und dass „xAI das Konto umgehend wiederhergestellt hat“, nannte es einen „Plattformfehler“, schlug „Inhaltsverbesserungen durch xAI“ im Zusammenhang mit „antisemitischen Veröffentlichungen“ vor und sagte, es diene der „denteiner Person in Inhalten für Erwachsene“

Musk schrieb später: „Es war einfach ein dummer Fehler. Grok weiß eigentlich gar nicht, warum es ausgesetzt wurde.“

Experten warnen davor, dass LLM-Absolventen plausible Lügen erfinden

Solche Vorfälle verleiten Menschen oft dazu, Chatbots für Selbstdiagnosen zu nutzen, was zu Fehldiagnosen führen kann.

Große Sprachmodelle generieren wahrscheinliche Texte anstelle von gesicherten Fakten. xAI gibt an, dass Grok Fragen zu sich selbst mitunter beantwortet hat, indem es Informationen über Musk, xAI und Grok aus dem Internet abgerufen und öffentliche Kommentare einfließen lassen hat.

Manchmal entdecken Menschen durch Gespräche Hinweise auf die Gestaltung eines Bots, insbesondere durch Systemaufforderungen, also den versteckten Text, der das Verhalten zu Beginn eines Chats festlegt.

Laut einem von The Verge wurde eine frühe Version der Bing-KI dazu gebracht, bisher unbekannte Regeln aufzulisten. Anfang des Jahres berichteten Nutzer, dass sie von Grok Vorschläge erhielten, die Quellen herunterspielten, die behaupteten, Musk oder Donald Trump würden Falschinformationen verbreiten. Dies schien eine kurze Fixierung auf das Thema „Weißer Völkermord“ zu erklären.

Zeynep Tufekci, die die angebliche Aufforderung zum „weißen Völkermord“ entdeckte, warnte davor, dass es sich hierbei um „eine sehr plausible Erfindung von Grok handeln könnte, wie es LLMs eben tun“

Alex Hanna sagte: „Es gibt keine Garantie dafür, dass die Ergebnisse eines LLM korrekt sind. … Die einzige Möglichkeit, die Prompts, die Prompt-Strategie und die Engineering-Strategie zu erhalten, besteht darin, dass Unternehmen transparent darlegen, was die Prompts sind, welche Trainingsdaten verwendet werden, wie das Reinforcement Learning mit menschlichem Feedback funktioniert und darüber transparente Berichte erstellen.“

Dieser Streit war kein Programmierfehler, sondern eine Sperrung in den sozialen Medien. Abgesehen von Musks „dummem Fehler“ bleibt die eigentliche Ursache unbekannt, doch Screenshots von Groks widersprüchlichen Antworten verbreiteten sich rasant auf X.