xAI kämpft in Minnesota gegen ein Gesetz, das KI-generierte sexuelle Bilder anvisiert

Der Generalstaatsanwalt von Minnesota, Keith Ellison, reichte am Freitag ein Schriftsatz ein, in dem er xAIs Versuch widerspricht, HF 1606 zu blockieren, das landesweit erste Gesetz des Staates, das KI-Tools einschränkt, die sexuelle Bilder von identifizierbaren Personen erzeugen, laut Decrypt.

Ellison argumentierte, dass das Unternehmen mit seinem verfassungsrechtlichen Anspruch wenig Erfolg haben werde und nicht nachgewiesen habe, dass die Durchsetzung irreparablen Schaden verursachen würde.

Mit Grok Imagine hat X.AI einen unübertroffenen Marktplatz für digitale sexuelle Gewalt geschaffen, und der Staat wäre von Anfang an wehrlos, es sei denn, er könnte seine Gesetze direkt gegen die Technologie selbst richten.

– Generalstaatsanwalt Keith Ellison

Das Argument aus Minnesota ist, dass Grok Imagine ein Werkzeug und keine geschützte Rede ist, was es aus den von xAI für den Richter zu prüfenden Überlegungen herausnimmt. Am Mittwoch findet eine Anhörung zu dieser Angelegenheit vor einem Bundesrichter statt.

Minnesotas Gesetz zielt auf KI-Anbieter ab, selbst ohne Wissen oder Absicht

HF 1606 verbietet einem Unternehmen, Nutzern die Generierung realistischer Bilder zu ermöglichen, die Intimate Parts zeigen, die im Originalfoto einer identifizierbaren Person fehlten, und solche Bilder im Namen eines Nutzers zu produzieren. Verstöße werden mit Strafen von bis zu 500.000 US-Dollar pro Bild geahndet. Dargestellte Personen können separat klagen.

Das Gesetz verlangt nicht, dass ein Unternehmen über das Bild Bescheid wusste oder es beabsichtigte. Die meisten Deepfake-Gesetze, einschließlich des bundesweiten Take It Down Act, bestrafen diejenigen, die das Bild erstellen oder teilen.

Texas kontaktierte Betreiber im Jahr 2025, aber nur, wenn der Eigentümer sich der fehlenden Zustimmung bewusst war oder nicht auf eine Takedown-Benachrichtigung reagierte. Minnesota hat das Element des Wissens eliminiert, und genau diese Bestimmung wird von xAI am Mittwoch angegriffen.

Das Repräsentantenhaus verabschiedete den Gesetzentwurf mit 132 zu 1 Stimmen und der Senat mit 65 zu 0 Stimmen, nach Berichten über einen Mann, der Social-Media-Fotos nutzte, um sexuelle Bilder von mehr als 80 Frauen zu erstellen, die er kannte. Es wurde im April unterzeichnet. xAI klagte am 27. Juli und beantragte am 29. Juli eine einstweilige Verfügung.

Am 31. Juli lehnte Richter Donovan Frank die Petition ab und wies darauf hin, dass das Unternehmen fast drei Monate nach der Unterzeichnung und drei Tage vor dem Inkrafttreten eingereicht hatte, was darauf hindeutet, dass „der Schaden nicht unmittelbar ist“. Das Gesetz trat am 1. August in Kraft.

xAI sagt, Minnesotas Regeln könnten Satire und einvernehmliche Bilder kriminalisieren

Die Klage bestreitet nicht das Interesse des Staates an der Verhinderung nicht-einvernehmlicher Bilder, sondern argumentiert, dass das Gesetz weit darüber hinausgeht, und die Argumentation dreht sich um eine Definition. Der Staat Minnesota stütze seine Definition eines intimen Teils auf eine Verordnung, die für Straftaten gedacht sei, die körperlichen Kontakt beinhalten, so xAI, und dies umfasse die Innenseiten der Oberschenkel und die Brüste, wodurch Badeanzüge und Satire eingeschlossen würden.

Seite 19 des Dokuments enthält ein KI-generiertes Bild, das Trump am 1. Mai auf Truth Social geteilt hatte, auf dem er mit JD Vance, Marco Rubio und dem Innenminister Doug Burgum ohne Hemden zu sehen ist, zusammen mit einer unbekannten Frau im Lincoln Memorial Reflecting Pool, ein Witz über die Kosten für die Reparatur des Pools. Jeder Mann’s Brust wird dort dargestellt, wo sie zuvor nicht war, argumentiert xAI, was das Bild in Minnesota illegal macht.

„Selbst wenn die Subjekte ihre Zustimmung gaben, die Bilder selbst generierten oder sie nie teilten, gibt es keine Safe-Harbor-Klausel für gutgläubige Bemühungen des Anbieters von KI-Kreativtools für allgemeine Zwecke“, sagte das Unternehmen.

Nach seiner eigenen Rechnung kosten zehn solcher Bilder 5 Millionen US-Dollar und hunderttausend würden 50 Milliarden US-Dollar erreichen.

Grok’s Durchsetzungsbilanz unterstreicht das Ausmaß des Missbrauchsproblems

Das Unternehmen hat seine Compliance-Bilanz als Beweis für sein gutes Vertrauen vorgelegt. Wie Cryptopolitan zuvor berichtete, sagte xAI in einem Juli-Einreichung, dass es in diesem Jahr 52.222 Konten gesperrt und 73.604 Berichte an das Nationale Zentrum für vermisste und ausgenutzte Kinder gesendet hat, was zu mindestens 244 Festnahmen im Jahr 2026 führte.

Diese Zahlen sind auch ein Maß für das Ausmaß. Laut dem Center for Countering Digital Hate erstellte Grok im 11-tägigen Zeitraum vom 29. Dezember bis zum 8. Januar, nach Musks Zustimmung zur Bearbeitungsfunktionalität der App, etwa 3 Millionen sexuell explizite Bilder, darunter etwa 23.000, die so aussahen, als wären Kinder dargestellt.

Kalifornien eröffnete am 14. Januar eine Untersuchung und schickte zwei Tage später eine Abmahnung. 35 Generalstaatsanwälte unterzeichneten am 23. Januar eine gemeinsame Forderung. Laut Ellison wurde eine Sammelklage von fünf Kindern eingereicht, und zwei Familien aus Arkansas haben Klage vor einem Bundesgericht erhoben.

Die Europäische Kommission leitete am 27. Januar eine Untersuchung ein, und der Chatbot wurde in Malaysia und Indonesien verboten.