Justizminister von Kalifornien erlässt Abmahnung an xAI wegen unangemessener Deepfake-Bilder

Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat ein Abmahnungsschreiben an Elons Musk’ xAI gesendet und verlangt, dass das Unternehmen unverzüglich mit der Herstellung und Verbreitung anstößiger Deepfake-Bilder aufhört, die von seinem Grok-Chatbot erstellt wurden. 

Kaliforniens Generalstaatsanwalt veröffentlichte das Abmahnungsschreiben am Freitag als Reaktion auf Vorwürfe, dass Grok zur Erstellung rechtswidriger Inhalte mit Kindern und nicht einvernehmlichen Fotos von Erwachsenen verwendet wurde, was zu einer Untersuchung durch den Bundesstaat Kalifornien führte. Bonta argumentierte, dass es illegal ist, CSAM (Child Sexual Abuse Material) zu erstellen, zu verbreiten, zu veröffentlichen und anzuzeigen.

Kaliforniens Generalstaatsanwalt zielt auf xAI wegen angeblicher Missbräuche von Grok

Anfang dieser Woche erklärte das Büro des Generalstaatsanwalts von Kalifornien, dass es xAI wegen der Vorwürfe untersuche, der Chatbot des Startups, Grok, werde zur Erstellung nicht einvernehmlicher, unangemessener Bilder von Frauen und Kindern verwendet. Als Reaktion darauf sandte die Regierung dem Unternehmen ein Abmahnungsschreiben.

„Heute habe ich xAI ein Abmahnungsschreiben gesendet und das Unternehmen aufgefordert, unverzüglich mit der Erstellung und Verbreitung von Deepfakes, nicht einvernehmlichen intimen Bildern und illegalen Missbrauchsmaterialien an Kindern aufzuhören. Die Erstellung dieses Materials ist illegal. Ich erwarte voll und ganz, dass xAI unverzüglich nachkommt. Kalifornien hat keine Toleranz für illegale Bilder des Missbrauchs von Kindern.“

–Rob Bonta, Generalstaatsanwalt von Kalifornien.

Das Büro des Generalstaatsanwalts behauptete weiter, xAI scheine die „großflächige Produktion“ nicht einvernehmlicher, unangemessener Fotos zu erleichtern, die dann „zur Belästigung von Frauen und Mädchen im Internet verwendet werden“. Laut dem Büro des Generalstaatsanwalts zeigte eine Studie, dass mehr als die Hälfte der 20.000 von xAI zwischen Weihnachten und Neujahr produzierten Fotos Personen in sehr geringer Kleidung zeigte, von denen einige wie Kinder aussahen.

Rob Bonta behauptete in der Ankündigung die die Unternehmenspraktiken gegen die zivilrechtlichen Gesetze von Kalifornien verstoßen, einschließlich des Abschnitts 1708.86 des Kalifornischen Zivilgesetzbuchs, der Abschnitte 311 ff. und 647(j)(4) des Kalifornischen Strafgesetzbuchs sowie des Abschnitts 17200 des Kalifornischen Geschäfts- und Berufsrechts. 

Das Justizministerium von Kalifornien erwartet, dass xAI seine Bemühungen zur Lösung dieser Probleme bestätigt und innerhalb der nächsten fünf Tage unverzüglich Maßnahmen zu deren Behebung ergreift.

X’ Sicherheitskonto hatte dieses Verhalten der Nutzer jedoch zuvor verurteilt. Es präzisierte am 4. Januar, dass es gegen illegale Inhalte auf X, wie CSAM, vorgeht, indem es diese löscht, Konten unbefristet sperrt und mit Strafverfolgungsbehörden und lokalen Regierungen zusammenarbeitet, soweit erforderlich.

Bemerkenswerterweise warnte Elon Musk am 4. Januar, dass jeder, der Grok verwendet oder auffordert, illegale Inhalte zu erstellen, denselben Konsequenzen ausgesetzt sein wird, als hätte er sie hochgeladen.

Generalstaatsanwälte üben Druck auf KI-Unternehmen wegen Kindersicherheit aus

Die Entwicklung kostenloser generativer KI-Tools hat zu einem beunruhigenden Anstieg nicht einvernehmlicher Inhalte für Erwachsene geführt. Dieses Problem plagt mehrere Plattformen, nicht nur X.

So zum Beispiel der Generalstaatsanwalt Bonta und der Generalstaatsanwalt von Delaware, Jennings erfüllte sich im September letzten Jahres mit OpenAI in Verbindung, um ihre ernsten Bedenken hinsichtlich der wachsenden Zahl von Berichten darüber zu äußern, wie die Produkte von OpenAI mit Jugendlichen interagieren.

Im August desselben Jahres sandte AG Bonta zusammen mit 44 weiteren Generalstaatsanwälten einen Brief an 12 führende KI-Unternehmen, nachdem Berichte über unangemessene Interaktionen zwischen KI-Chatbots und Kindern vorlagen. Die Briefe wurden an Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika und xAI gesendet.

AG Bonta und die 44 Generalstaatsanwälte informierten die Unternehmen in dem Brief, dass Bundesstaaten im ganzen Land genau überwachten, wie Unternehmen ihre KI-Sicherheitsrichtlinien entwickeln. Sie betonten auch, dass diese Unternehmen eine gesetzliche Pflicht gegenüber Kindern als Verbrauchern haben, da sie von Kindern profitieren, die ihre Produkte nutzen. 

Im Jahr 2023 schloss sich AG Bonta einer parteiübergreifenden Koalition von 54 Bundesstaaten und Territorien an, die einen Brief an die Führer des Kongresses sandten, in dem sie für die Einrichtung eines Expertenkomitees plädierten, um die potenzielle Nutzung von KI zur Ausbeutung von Kindern durch CSAM zu untersuchen. 

Die Koalition beantragte die die Expertenkommission vorschlägt, Gesetze zum Schutz von Kindern vor solcher Misshandlung zu erlassen. „Die Produktion von CSAM schafft ein dauerhaftes Zeugnis der Viktimisierung des Kindes“, so das US-Justizministerium.