San Francisco verklagt 16 Websites wegen KI-gestützter „Nudifizierung“ von Frauen und Mädchen

Die Stadt San Francisco hat eine wichtige Ankündigung gemacht, indem sie Klage gegen 16 Websites eingereicht hat, die KI-generierte Nacktbilder von echten Erwachsenen und sogar Minderjährigen erstellen und verbreiten. 

Laut einem Tweet des San Franciscoer Stadtanwalts David Chiu verbreiteten diese Webseiten nicht einvernehmliche Deepfake-Nacktbilder von Erwachsenen und Minderjährigen. Chiu erwähnte in seinem Tweet , dass die Webseitenbetreiber gegen bundesstaatliche und Bundesgesetze verstoßen, die Deepfake-Pornografie, Rachepornografie und Kinderpornografie verbieten.

Laut einem Bericht der New York Timeshaben die Personen und Unternehmen hinter diesen Webseiten ihren Sitz in Kalifornien, New Mexico, Großbritannien und Estland.

16 Websites verzeichneten zusammen 200 Millionen Besuche

Chiu gab an, dass diese 16 Webseiten im ersten Halbjahr dieses Jahres zusammen 200 Millionen Besuche verzeichneten. Einige dieser Webseiten erlaubten sogar die kostenlose Erstellung von Nacktbildern, bevor für weitere Bilder Gebühren erhoben wurden. Manche akzeptierten sogar Kryptowährungen und Kreditkarten.

Laut Staatsanwaltschaft der Stadt wurden die KI-Modelle der Website mit echten pornografischen und kinderpornografischen Bildern trainiert, um KI-generierte Deepfakes zu erstellen. Die Websites waren sogar darauf trainiert, innerhalb von Sekunden realistische Bilder von Geschlechtsteilen zu verbreiten.

Das KI-Modell der Website erstellte sogar ein Deepfake von Taylor Swift

Das KI-Modell der Website erstellte sogar täuschend echt wirkende Nacktbilder von Prominenten wie Taylor Swift und Mädchen aus der Mittelstufe. In einigen Fällen wurden diese Bilder sogar dazu benutzt, die Opfer zu demütigen, zu belästigen und ihnen Geld abzunehmen.

Eine der Mütter der Opfer, Sara Eisenberg, erklärte: „Man kann sich noch so gut mit dem Internet und den sozialen Medien auskennen und seinen Kindern alle möglichen Wege beibringen, sich online zu schützen, aber nichts davon kann sie davor bewahren, dass jemand diese Seiten nutzt, um wirklich schreckliche und schädliche Dinge zu tun.“

Chiu erwähnte außerdem, dass es nahezu unmöglich sei, den Ursprung der Bilder trac, sobald sie einmal im Umlauf seien. Die Klage zielt darauf ab, diese Webseiten zu schließen und sie dauerhaft daran zu hindern, zukünftig KI-generierte Nacktbilder zu erstellen.

Während KI weltweit in verschiedenen Bereichen positive Seiten hat, erwähnte Chiu, dass das Problem der Deepfake-Pornografie eine ihrer Schattenseiten sei.