xAI verklagt Grok-Nutzer wegen KI-generierter expliziter Bilder von Minderjährigen
- xAI hat Terry Harwood, einen Mann aus South Carolina, der bereits festgenommen wurde, weil er Minderjährige ausbeutete, verklagt. Ihm wird vorgeworfen, den Grok-Chatbot getäuscht zu haben, um kinderpornografische Deepfakes zu erzeugen.
- Dies ist der erste Rechtsstreit dieser Art, den ein KI-Unternehmen gegen einen Nutzer für auf seiner Plattform erstellte Inhalte eingereicht hat.
- Das Ergebnis könnte als Vorlage dafür dienen, wie die Branche mit Nutzern umgeht, die generative Tools weaponisieren.
Elon Musks xAI hat einen Mann aus South Carolina vor einem Bundesgericht in Texas verklagt und ihn beschuldigt, den Grok-Chatbot verwendet zu haben, um sexuell explizite Deepfakes von Minderjährigen zu erstellen, was das erste Mal ist, dass ein KI-Unternehmen einen seiner eigenen Nutzer wegen Inhalten verklagt, die mit seiner Plattform generiert wurden.
Der Angeklagte, Terry Harwood, wurde im Februar wegen separater Anschuldigungen der sexuellen Ausbeutung von Minderjährigen festgenommen, laut Reuters. Die zivilrechtliche Klage von xAI wurde am Dienstag, den 14. April, eingereicht und wird nun neben jedem strafrechtlichen Fall stehen, der aus dieser Festnahme resultiert.
Die Klage von xAI
In der Einreichung heißt es, dass er mehrere Konten unter falschen Identitäten eröffnet und dem KI-Tool regelmäßige Fotos von Erwachsenen und Kindern zugeführt hat, bevor er Prompts schrieb, die diese Bilder in sexuelle Inhalte verwandeln sollten. Laut Al Jazeera hatten die in diesen Handlungen verwendeten Subjekte nicht zugestimmt und wussten nicht, dass ihre Bilder verwendet wurden.
xAI behauptet, dass das System gegen die Handlung Widerstand geleistet hat. Grok lehnte die Anfragen ab und markierte sie als Verstöße gegen seine Inhaltsregeln. Harwoods Antwort war es, laut der Klage, die Prompts immer wieder umzuschreiben und es erneut zu versuchen.
„Die Handlungen des Angeklagten waren ein berechneter Plan, das Werkzeug des Klägers für kriminelle Zwecke zu weaponisieren und echte Opfer tiefgreifenden und dauerhaften Schaden zuzufügen“, schrieb xAI in der Klageschrift, zitiert von Reuters. Das Unternehmen beschuldigt ihn auch, nicht einvernehmliche sexuelle Bilder von Erwachsenen erstellt zu haben.
Das KI-Unternehmen forderte in der Klage zwei Dinge vom Gericht. Dazu gehören monetäre Schäden ohne bestimmte Angabe einer Summe und eine Anordnung, die Harwood daran hindert, das Grok-Produkt jemals wieder zu verwenden.
xAI nutzte die Einreichung auch, um das Ausmaß seiner Durchsetzungsarbeit gegen böswillige Akteure darzulegen. Das Unternehmen sagte, es habe in diesem Jahr 52.222 Konten gesperrt und 73.604 Berichte an das National Center for Missing & Exploited Children gesendet, was zu mindestens 244 Festnahmen im Jahr 2026 führte.
Grok bleibt unter weiterer scrutiny
xAI stand bereits unter Druck bezüglich dessen, was Grok produzieren kann, bevor dieser Fall aufkam. Regulierungsbehörden in Europa haben das KI-Tool untersucht, während Gesetzgeber in Washington mehrere Bedenken geäußert haben. Sowohl Malaysia als auch Indonesien haben den Chatbot aufgrund sexuell expliziter Ausgaben verboten, wie Al Jazeera berichtete.
Elon Musk selbst bestritt das zugrunde liegende Problem earlier in diesem Jahr. „Ich [bin] mir keiner nackten Bilder von Minderjährigen bewusst, die von Grok generiert wurden. Wörtlich null“, schrieb er im Januar auf X.
Ich bin mir keiner nackten Bilder von Minderjährigen bewusst, die von Grok generiert wurden. Wörtlich null.
Offensichtlich generiert Grok nicht spontan Bilder, es tut dies nur auf Anfrage der Benutzer.
Wenn man ihn auffordert, Bilder zu generieren, wird er sich weigern, etwas Illegales zu produzieren, da das Betriebsprinzip… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) Januar 14, 2026
Ein kürzlich geschaffener rechtlicher Weg namens DEFIANCE Act hat ebenfalls zu einer Zunahme solcher Fälle geführt. Das Gesetz, das 2024 unterzeichnet wurde, gibt Opfern von nicht einvernehmlichen intimen Deepfakes die Möglichkeit, zu klagen, und mehrere Bundesstaaten haben einzelne Gesetze zu diesem Zweck erlassen.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Opeyemi Olanrewaju
Opeyemi spezialisiert sich auf die Erstellung und Verfeinerung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und die Wirtschaft. Er absolvierte sein Studium an der University of Ibadan mit einem MBBS-Abschluss. Er war Chefredakteur der redaktionellen Publikation seines Colleges und zuvor bei CFA tätig. Seit über sechs Jahren sorgt er als News Editor bei Cryptopolitan für die Einzigartigkeit der Inhalte.
