Klage des Stadtanwalts von San Francisco zur Schließung KI-gesteuerter Deepfake-Nacktwebseiten

Der Stadtanwalt von San Francisco, David Chiu, hat angekündigt, dass seine Behörde gegen 16 Websites vorgeht, die mithilfe von KI nicht einvernehmliche Deepfake-Nacktbilder von Frauen und Mädchen erstellen und verbreiten. Dies geschieht vor dem Hintergrund verstärkter Aufmerksamkeit für die Erstellung und Verbreitung solcher nicht einvernehmlicher KI-Bilder.

Laut Chiu handelt es sich bei der Klage um die erste ihrer Art in San Francisco. Sie wirft den Betreibern der Websites vor, gegen staatliche und bundesstaatliche Gesetze verstoßen zu haben, die Deepfake-Pornografie, Kinderpornografie und Rachepornomaterial verbieten, sowie gegen das kalifornische Gesetz gegen unlauteren Wettbewerb.

Chiu möchte vor dieser unlauteren Praxis warnen

Laut der New York Timeswar die Initiative eine Idee der stellvertretenden Chefanwältin Yvonne Mere, die ihre Kollegen mobilisierte, um eine Klage auszuarbeiten, die zur Schließung von 16 Websites führen sollte.

Die Namen der Webseiten wurden in der am Donnerstag der Öffentlichkeit zugänglich gemachten Kopie der Klage zensiert.

Während die Staatsanwaltschaft erklärte, sie habe die meisten Inhaber der Webseiten noch nichtdent, zeigten sich Beamte dieser Behörde optimistisch, die Namen der Betreiber der Seiten zu finden und sie zur Rechenschaft zu ziehen.

Auf einer Pressekonferenz am Donnerstag enthüllte Chiu, dass die Seiten nicht einvernehmliches, pornografisches Material produzieren. Neben der Warnung und der Forderung, dieser Form des sexuellen Missbrauchs ein Ende zu setzen, deutete Chiu auch an, dass die Klage die Schließung der besagten Webseiten zur Folge haben sollte.

„Diese Ermittlungen haben uns in die dunkelsten Ecken des Internets geführt, und ich bin zutiefst entsetzt über das Leid der Frauen und Mädchen, die diese Ausbeutung ertragen mussten.“

Chiu.

Auf den genannten Webseiten laden Nutzer Fotos von vollständig bekleideten, realen Personen hoch und verwenden KI, um Bilder von nackten Frauen und Mädchen zu erstellen. Die KI-Modelle der Seiten wurden mit echter Pornografie und Bildern von Kindesmissbrauch trainiert, um Deepfakes zu erzeugen.

Wie aus der Klage hervorgeht, wirbt eine der Seiten mit dem nicht einvernehmlichen Charakter der Bilder und behauptet: „Stellen Sie sich vor, Sie verschwenden Ihre Zeit mit Dates mit ihr, wenn Sie einfach [Name der Webseite entfernt] benutzen können, um an ihre Nacktbilder zu kommen.“

Die Verfügbarkeit und Zugänglichkeit von Open-Source-KI-Modellen hat es jedem leicht gemacht, KI-gestützte Systeme für eigene Zwecke zu nutzen und anzupassen. Dies führt zur Entwicklung von Websites und Apps, die Deepfake-Nacktbilder von Grund auf neu erstellen oder bestehende Fotos auf realistische Weise „entkleiden“ können – oft gegen Gebühr.

San Francisco ist nicht der einzige Ort, an dem diese Herausforderung zu beobachten ist

Im Januar sorgten Deepfake-Apps für Schlagzeilen, als gefälschte Nacktfotos von Taylor Swift im Internet viral gingen. Viele andere, weit weniger bekannte Personen wurden vor und nach Swift verfolgt.

Chiu hat eingeräumt, dass die „Verbreitung dieser Bilder eine schockierend hohe Zahl von Frauen und Mädchen auf der ganzen Welt ausgebeutet hat“, von Prominenten bis hin zudent.

Die Stadtstaatsanwaltschaft stellte in eigenen Ermittlungen fest, dass die Webseiten in den ersten sechs Monaten dieses Jahres über 200 Millionen Mal besucht wurden. Die Behörde äußerte Bedenken, dass es für Betroffene schwierig werde, die Webseiten zu ermitteln, die zur „Entblößung“ ihrer Fotos verwendet wurden, sobald ein Bild online sei.

Dies liegt daran, dass die Bilder keine eindeutigen oderdentMerkmale aufweisen, anhand derer man die Webseiten zuordnen könnte. Zudem ist es für die Betroffenen schwierig, die Fotos aus dem Internet zu entfernen, was ihrsteem und ihren digitalen Fußabdruck beeinträchtigt.

Anfang des Jahres wurden fünf Achtklässler der Schule verwiesen, weil sie Deepfake-Nacktbilder von 16 Achtklässlerinnen erstellt und geteilt hatten, indem sie die Gesichter der Mädchen auf KI-generierte Körper montierten.

Ähnliche Fälle wurden auch an anderen Schulen in Kalifornien, New Jersey und Washington beobachtet, wo die Bilder dazu benutzt wurden, Frauen und Mädchen zu demütigen, zu mobben und zu bedrohen.

Die Staatsanwaltschaft erklärte, die Folgen für die Opfer seien verheerend für ihren Ruf, psychische Erkrankungen, Verlust dessteemund in einigen Fällen sogar Selbstmordgedanken.