Frauen in Arizona klagen wegen KI-generierter sexueller Deepfakes

Drei Frauen aus Arizona haben mehrere Personen und Unternehmen verklagt und behaupten, ihre Bilder seien von ihren Social-Media-Seiten entnommen und in künstliche Intelligenz (KI)-Modelle eingespeist worden, um Deepfakes von ihnen zu generieren. Sie gaben an, dass die beteiligten Verdächtigen die Modelle nutzten, um explizite Bilder von ihnen zu generieren und daraus Profit zu schlagen.

Die Klage, die am Superior Court im Maricopa County in Arizona eingereicht wurde, zielt auf einen Instagram-Account ab, der mehrere Videos von Frauen veröffentlicht hat, die als KI-Modelle beworben werden, um Geld zu verdienen. Die Kläger, deren Namen aus Datenschutzgründen nicht genannt werden, stellten fest, dass einige der KI-generierten Bilder ohne vorherige Zustimmung mit ihren Social-Media-Fotos erstellt wurden. Eine der Opfer erwähnte, dass sie nun auf eine Weise betrachtet wird, die ihr nicht behagt, einfach wegen der zirkulierenden Bilder.

Frauen in Arizona starten Klage wegen KI-generierter Inhalte

Die Klage nennt drei Angeklagte aus dem Maricopa County in Arizona, darunter Beau Schultz, der Inhaber des Instagram-Kontos ist. Die Klage nennt auch 50 weitere John Does und mehrere Unternehmen, die angeblich gegründet oder genutzt wurden, um das Geschäft zu betreiben. Die Kläger werden von Nick Brand von der Donlon Group und Cristina Perez Hesano von der Pere Law Group vertreten.

Laut Brand haben die Angeklagten, die wahrscheinlich aus Arizona stammen, Baupläne erstellt, um anderen Männern und Jungen beizubringen, wie man diese sogenannten KI-Influencer erstellt, die dann von vollständig bekleideten Bildern entkleidet werden. Er fügte hinzu, dass die Angeklagten diese generierten Deepfakes nutzen, um eine abonnementsbasierte pornografische Website einzurichten, auf der sie erotische Nachrichten mit Kunden hin- und herschicken. Brand bemerkte, dass das Problem größer aussieht, als er sich vor seiner Zuweisung zu diesem Fall vorgestellt hatte.

In der Klage in Arizona wiesen die Angeklagten ihre Kunden an, es zu vermeiden, beliebte oder bekannte Influencer zu nutzen, und stattdessen Mikro-Influencer einzusetzen, um das Risiko rechtlicher Probleme zu verringern. „Ich kann nicht fassen, wie naiv ich war, was Frauen durchmachen müssen, während die Technologie fortschreitet“, sagte Brand . Laut einem der Opfer kann nur strenge Gesetzgebung verwendet werden, um diese Übel zu verhindern und weitere Frauen vor ähnlichen Betrugsfällen zu schützen.

Zahlungsplattform bestreitet Fehlverhalten

Ein weiteres Opfer erwähnte, dass die Öffentlichkeit nicht in der Lage sein sollte, künstliche Intelligenz zu nutzen, um so viel Chaos anzurichten, und wies darauf hin, dass diejenigen, die sie nutzen, die Schwester, Mutter, Freundin und Kollegin einer Person ins Visier nehmen. Währenddessen sagte eines der in der Klage aufgeführten Unternehmen, Phyziro, eine Zahlungsabwicklungsplattform, dass die Anschuldigungen materiell falsch seien. Das Unternehmen behauptete, es sei ein Anbieter interaktiver Computerdienste gemäß § 47 U.S.C. 230.

„Das Unternehmen soll nicht als Herausgeber, Sprecher oder Autor von Inhalten oder Transaktionen behandelt werden, die von Drittanwendern oder autonomen Agenten generiert werden. Wir bestreiten weiterhin keine Pflicht, die spezifische nachgelagerte Absicht oder illegale Aktivitäten von Nutzern oder Nutzern-von-Nutzern zu überwachen. Das Mitglied und der Manager sind von der Haftung für Ereignisse ‚Asymmetrisches Wissen‘ befreit, bei denen KI-Agenten, Nutzer oder Nutzer-von-Nutzern außerhalb der direkten Sichtbarkeit oder Programmierung des Managers handeln.“

Das Unternehmen erwähnte, dass es nur als Anbieter neutraler Tools und Infrastruktur dient, und hob hervor, dass seine Haftung streng auf die technische Funktionsfähigkeit des Stacks beschränkt ist. In seiner Erklärung weist das Unternehmen darauf hin, dass Abschnitt 230 des Communications Decency Act es von jeglichem Fehlverhalten freistellt. Derzeit gibt es jedoch eine parteiübergreifende Bemühung im Kongress, das Gesetz aufzuheben, was Plattformen dazu zwingen würde, für Inhalte verantwortlich zu sein, die auf ihren Websites gepostet oder mit diesen verbunden sind.

Diese Entwicklung aus Arizona fällt in eine Zeit, in der der Chatbot Grok unter schwerer Kritik der globalen Bevölkerung leidet. Regierungen im ganzen Land warfen der Plattform vor, keine Schutzmechanismen installiert zu haben, um die Aktivitäten des Chatbots zu kontrollieren, was dazu führte, dass KI-generierte Deepfakes mit expliziten Bildern von Frauen und Kindern erstellt wurden. Während einige Länder Warnungen an die Plattform herausgegeben haben, haben andere den Zugang vorübergehend ausgesetzt, bis das Problem behoben ist.