Klage der Stadt San Francisco gegen KI-gesteuerte Deepfake-Nacktfoto-Websites

Der Stadtrechtsanwalt von San Francisco, David Chiu, hat bekannt gegeben, dass sein Büro gegen 16 Websites klagen wird, die KI nutzen, um nicht einvernehmliche Deepfake-Nacktbilder von Frauen und Mädchen zu entwickeln und zu verbreiten. Dies geschieht vor dem Hintergrund der zunehmenden Aufmerksamkeit auf die Erstellung und Verbreitung von KI-Nacktbildern ohne Einwilligung.

Laut Chiu ist die Klage die erste ihrer Art in San Francisco und macht die Betreiber der Websites für Verstöße gegen staatliche und bundesstaatliche Gesetze verantwortlich, die Deepfake-Pornografie, Kinderpornografie und Rache-Pornografie verurteilen, sowie gegen das kalifornische Gesetz gegen unlauteren Wettbewerb.

Chiu will auf diese unethische Praxis aufmerksam machen

Laut der New York Times war die Initiative die Idee von Yvonne Mere, stellvertretende Generalstaatsanwältin, die ihre Kolleginnen und Kollegen dazu brachte, eine Klage zu entwerfen, die zur Schließung von 16 Websites führen sollte.

Die Namen der Websites wurden in der am Donnerstag der Öffentlichkeit zur Verfügung gestellten Kopie der Klage zensiert.

Während das Büro der Generalstaatsanwältin sagte, dass die meisten Inhaber der Websites noch nicht identifiziert wurden, haben Beamte dieses Büros ihre Optimismus geäußert, die Namen der Website-Betreiber zu finden und sie zur Verantwortung zu ziehen.

Während einer Pressekonferenz am Donnerstag enthüllte Chiu, dass die Seiten nicht einvernehmliche „pornografische“ Materialien produzieren. Neben der Alarmierung und Beendigung dieser Form des „sexuellen Missbrauchs“ deutete Chiu auch an, dass die Klage auch die genannten Websites schließen sollte.

„Diese Untersuchung hat uns in die dunkelsten Ecken des Internets geführt, und ich bin absolut entsetzt über die Frauen und Mädchen, die diese Ausbeutung ertragen mussten.“

Chiu.

Auf den genannten Websites laden Benutzer Fotos von vollständig bekleideten echten Personen hoch und nutzen KI, um Bilder nackter Frauen und Mädchen zu erstellen. Die KI-Modelle der Websites wurden mit echter Pornografie und Bildern von Kindesmissbrauch trainiert, um Deepfakes zu erstellen.

Wie aus der Klage hervorgeht, fördert eine der Seiten den nicht einvernehmlichen Charakter der Bilder, und behauptet: „Stell dir vor, du verschwendest Zeit damit, sie auf Dates auszuführen, wenn du einfach [redigierte Website-Name] nutzen kannst, um ihre Nacktbilder zu bekommen.“

Die Verfügbarkeit und Zugänglichkeit von Open-Source-KI-Modellen hat es jedem leicht gemacht, KI-gestützte Engines für ihre Zwecke zu nutzen und anzupassen. Dies führt zur Erstellung von Websites und Apps, die Deepfake-Nacktbilder von Grund auf neu erstellen oder bestehende Fotos auf realistische Weise „nudifizieren“ können, oft gegen eine Gebühr.

San Francisco ist nicht der einzige Ort, an dem diese Herausforderung beobachtet wird

Im Januar sorgten Deepfake-Apps für Schlagzeilen, als gefälschte Nacktfotos von Taylor Swift online viral gingen. Viele andere und weitaus weniger bekannte Personen wurden vor und nach Swift verfolgt.

Chiu hat zugegeben, dass die „Vermehrung dieser Bilder eine schockierende Anzahl von Frauen und Mädchen auf der ganzen Welt ausgenutzt hat“, von Prominenten bis hin zu Mittelschülerinnen.

Durch eigene Ermittlungen fand das Büro des Stadtrechtsanwalts heraus, dass die Websites in den ersten sechs Monaten dieses Jahres über 200 Millionen Mal besucht wurden. Das Büro äußerte Bedenken, dass es für Opfer schwierig wird, festzustellen, welche Websites zur „Nudifizierung“ ihrer Fotos verwendet wurden, sobald ein Bild online ist.

Dies liegt daran, dass die Bilder keine einzigartigen oder identifizierenden Merkmale aufweisen, auf die man sich zurückbeziehen kann. Darüber hinaus ist es für Opfer auch schwierig, die Fotos aus dem Internet zu entfernen, was ihr Selbstwertgefühl und ihren digitalen Fußabdruck beeinträchtigt.

Zu Beginn des Jahres wurden fünf Achterklässler aus Beverly Hills ausgeschlossen, weil sie Deepfake-Nacktbilder von 16 Achterklässlerinnen erstellt und verbreitet und dabei die Gesichter der Mädchen auf KI-generierte Körper überlagert hatten.

Ähnliche Fälle wurden an anderen Schulen in Kalifornien, New Jersey und Washington beobachtet, wobei die Bilder verwendet wurden, um Frauen und Mädchen zu demütigen, zu mobben und zu bedrohen.

Die netten Auswirkungen auf die Opfer, so das Büro der Staatsanwältin, waren verheerend für ihren Ruf, sie litten unter psychischen Gesundheitsproblemen, verloren ihr Selbstwertgefühl und in einigen Fällen führten sie dazu, dass Individuen suizidal wurden.