xAI verklagt Grok-Nutzer wegen KI-generierter, expliziter Bilder von Minderjährigen
- xAI hat Terry Harwood, einen Mann aus South Carolina, der bereits wegen Ausbeutung von Minderjährigen verhaftet wurde, verklagt. Ihm wird vorgeworfen, den Grok-Chatbot des Unternehmens dazu gebracht zu haben, Deepfakes von sexuellem Kindesmissbrauch herzustellen.
- Dies ist die erste Klage dieser Art, die ein KI-Unternehmen gegen einen Nutzer wegen auf seiner Plattform erstellter Inhalte erhoben hat.
- Das Ergebnis könnte als Vorlage dafür dienen, wie die Branche mit Nutzern umgeht, die generative Werkzeuge als Waffe einsetzen.
Elon Musks xAI hat einen Mann aus South Carolina vor ein Bundesgericht in Texas gebracht und ihm vorgeworfen, den Grok-Chatbot benutzt zu haben, um sexuell explizite Deepfakes von Minderjährigen zu erstellen. Dies ist das allererste Mal, dass ein KI-Unternehmen einen seiner eigenen Nutzer wegen Inhalten verklagt, die mit seiner Plattform generiert wurden.
Der Angeklagte Terry Harwood wurde laut Reuters im Februar wegen des Verdachts der sexuellen Ausbeutung Minderjähriger festgenommen. Die Zivilklage von xAI wurde am Dienstag, dem 14. April, eingereicht und wird nun parallel zu einem möglichen Strafverfahren geführt, das sich aus dieser Festnahme ergibt.
xAIs Klage
Laut Anklage eröffnete er mehrere Konten unter falschendentund fütterte das KI-Tool regelmäßig mit Fotos von Erwachsenen und Kindern, bevor er Anweisungen verfasste, die diese Bilder in sexuelle Inhalte umwandeln sollten. Wie Al Jazeera berichtet, hatten die Betroffenen nicht eingewilligt und wussten nicht, dass ihre Bilder verwendet wurden.
xAI behauptet, das System habe sich gegen die Aktion gewehrt. Grok habe die Anfragen abgelehnt und sie als Verstöße gegen die Inhaltsrichtlinien gekennzeichnet. Laut der Beschwerde habe Harwood daraufhin die Aufforderungen immer wieder umgeschrieben und es erneut versucht.
„Das Vorgehen des Beklagten war ein kalkulierter Plan, das Werkzeug des Klägers für kriminelle Zwecke zu missbrauchen und reale Opfer schwerwiegendem und dauerhaftem Schaden auszusetzen“, schrieb xAI in der von Reuters zitierten Klage. Das Unternehmen wirft ihm außerdem vor, nicht einvernehmliche sexuelle Bilder von Erwachsenen hergestellt zu haben.
Das KI-Unternehmen beantragte in der Klage zwei Dinge vor Gericht: Schadensersatz ohne konkrete Summe und ein Verbot für Harwood, das Produkt Grok jemals wieder zu verwenden.
xAI nutzte die Einreichung auch, um das Ausmaß seiner Maßnahmen gegen Betrüger darzulegen. Das Unternehmen gab an, in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen an das Nationale Zentrum für vermisste und ausgebeutete Kinder (National Center for Missing & Exploited Children) weitergeleitet zu haben. Diese Meldungen führten im Jahr 2026 zu mindestens 244 Verhaftungen.
Grok bleibt weiterhin unter genauer Beobachtung
xAI stand bereits vor diesem Fall wegen der Inhalte von Grok unter Druck. Europäische Regulierungsbehörden haben das KI-Tool genau unter die Lupe genommen, während Gesetzgeber in Washington zahlreiche Bedenken geäußert haben. Sowohl Malaysia als auch Indonesien haben den Chatbot aufgrund sexuell expliziter Inhalte verboten, wie Al Jazeera berichtete.
Elon Musk selbst bestritt das zugrundeliegende Problem Anfang des Jahres. „Mir sind keine Nacktbilder von Minderjährigen bekannt, die von Grok erstellt wurden. Absolut keine“, schrieb im Januar
Mir sind keine Nacktbilder von Minderjährigen bekannt, die von Grok generiert wurden. Absolut keine.
Grok generiert Bilder natürlich nicht spontan, sondern nur auf Anfrage des Nutzers.
Wenn es aufgefordert wird, Bilder zu generieren, weigert es sich, illegale Inhalte zu erzeugen, da dies seinem Betriebsprinzip entspricht… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) 14. Januar 2026
Ein kürzlich geschaffener Rechtsweg, der sogenannte DEFIANCE Act, hat ebenfalls zu einem Anstieg solcher Fälle geführt. Das 2024 unterzeichnete Gesetz ermöglicht es Opfern nicht einvernehmlicher Deepfakes intimer Inhalte, zu klagen, und mehrere Bundesstaaten haben entsprechende Gesetze verabschiedet.
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Opeyemi Olanrewaju
Opeyemi ist spezialisiert auf die Erstellung und Optimierung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und Wirtschaft. Er absolvierte sein Medizinstudium (MBBS) an der Universität Ibadan. Er war Chefredakteur der Hochschulzeitung und zuvor bei CFA tätig. Seit über sechs Jahren trägt er als Nachrichtenredakteur bei Cryptopolitanmaßgeblich zur Einzigartigkeit des Magazins bei.
