KI-gestützte „Nudify“-Apps gewinnen an Popularität und geben Anlass zur Sorge

Ein beunruhigender Trend zeichnet sich ab: Apps und Websites, die künstliche Intelligenz (KI) nutzen, um Frauen auf Fotos zu entkleiden, gewinnen laut aktuellen Studien zunehmend an Popularität. Diese Anwendungen, oft als „Nudify“-Dienste bezeichnet, haben ernsthafte Bedenken hinsichtlich Datenschutz, Ethik und Einwilligung aufgeworfen.

Steigende Beliebtheit

Allein im September besuchten laut Graphika, einem Unternehmen für soziale Netzwerkanalyse, rund 24 Millionen Menschen diese Entkleidungs-Websites. Viele dieser Dienste werden über beliebte soziale Netzwerke beworben, und die Anzahl der Links, die für Entkleidungs-Apps auf Plattformen wie X und Reddit werben, ist laut Forschern seit Jahresbeginn um über 2.400 % gestiegen. Die Kernfunktion dieser Apps besteht darin, mithilfe von KI Bilder zu manipulieren und so eine simulierte Nacktversion der abgebildeten Person zu erstellen. Es ist wichtig zu erwähnen, dass sich die meisten dieser Dienste ausschließlich an Frauen richten.

Ethische und rechtliche Dilemmata

Diese KI-gestützten Apps sind Teil eines beunruhigenden Trends im Zusammenhang mit nicht einvernehmlicher Pornografie, der durch Fortschritte in der KI-Technologie begünstigt wird und zur Verbreitung von Deepfake-Pornografie führt. Deepfake-Pornografie beinhaltet typischerweise die Erstellung gefälschter Medien wie Videos oder Bilder, oft ohne Wissen oder Zustimmung der betroffenen Person. Diese Bilder stammen häufig von Social-Media-Plattformen und werden ohne Kontrolle oder Wissen der betroffenen Person verbreitet, was erhebliche ethische und rechtliche Herausforderungen mit sich bringt.

Online-Belästigung und Datenschutzverletzungen

Die Bedenken haben sich verschärft, da einige dieser Apps und Dienste nicht einvernehmliches Verhalten und Belästigung fördern. Beispielsweise suggerierte ein auf X veröffentlichtes Bild, das für eine Entkleidungs-App warb, dass Nutzer Nacktbilder erstellen und diese an digital entkleidete Personen senden könnten, was zu Belästigung und Missbrauch anstiftete. Darüber hinaus haben einige dieser Apps für gesponserte Inhalte auf Googles YouTube-Plattform bezahlt und erscheinen prominent in den Suchergebnissen für Begriffe wie „nudify“. Google hat jedoch erklärt, dass es keine Werbung mit sexuell expliziten Inhalten zulässt und aktiv gegen solche Anzeigen vorgeht. Bislang haben weder X noch Reddit auf Anfragen nach einer Stellungnahme reagiert.

Deepfake-Verbreitung

Nicht einvernehmliche Pornografie mit Personen des öffentlichen Lebens ist im Internet seit Langem ein Problem. Datenschutzexperten befürchten jedoch zunehmend, dass Fortschritte in der KI-Technologie Deepfake-Software zugänglicher und effektiver gemacht haben. Diese Tools werden mittlerweile nicht nur von Kriminellen, sondern auch von Privatpersonen, darunter Schülern unddent, eingesetzt, um ahnungslose Opfer ins Visier zu nehmen.

Herausforderungen bei der Bekämpfung von Deepfakes

Die Bekämpfung von Deepfake-Pornografie stellt eine erhebliche Herausforderung dar. Zwar gibt es Gesetze gegen die Erstellung solcher Inhalte mit Minderjährigen, doch existiert in den Vereinigten Staaten derzeit kein Bundesgesetz, das die Erstellung von Deepfake-Pornografie mit Erwachsenen ausdrücklich verbietet. Strafverfolgungsbehörden haben oft Schwierigkeiten bei der Aufklärung dieser Fälle, und Opfer haben mitunter Probleme, die Mittel für ein Gerichtsverfahren aufzubringen.

In einer bemerkenswerten Entwicklung wurde im November ein Kinderpsychiater in North Carolina zu 40 Jahren Haft verurteilt, weil er Entkleidungs-Apps auf Fotos von Patienten angewendet hatte. Dies war die erste Verurteilung dieser Art nach Gesetzen, die die Erstellung von Deepfake-Material mit Darstellungen von sexuellem Kindesmissbrauch verbieten.

Plattformantworten

Angesichts wachsender Bedenken haben Social-Media-Plattformen Maßnahmen ergriffen. TikTok beispielsweise hat das Keyword „undress“ gesperrt, das häufig mit solchen Diensten in Verbindung gebracht wird. Nutzer erhalten bei der Suche nach diesem Begriff eine Warnung, dass dieser mit Verhaltensweisen oder Inhalten verknüpft sein könnte, die gegen die Richtlinien der Plattform verstoßen. Auch Meta Platforms Inc., die Muttergesellschaft von Facebook, hat damit begonnen, Keywords im Zusammenhang mit der Suche nach Apps zum Ausziehen zu sperren. Beide Unternehmen lehnten es jedoch ab, sich weiter zu dem Thema zu äußern.

Rechtliche und ethische Überlegungen

Der Aufstieg KI-gestützter „Nudify“-Apps unterstreicht die dringende Notwendigkeit, sich mit den rechtlichen und ethischen Fragen rund um Deepfake-Pornografie und nicht einvernehmliche, KI-generierte Inhalte auseinanderzusetzen. Angesichts des fortschreitenden technologischen Fortschritts müssen Regelungen und Schutzmaßnahmen eingeführt werden, um Einzelpersonen vor Belästigung, Datenschutzverletzungen und dem Missbrauch von KI zu schädlichen Zwecken zu schützen.

Zusammenfassend lässt sich sagen, dass die zunehmende Verbreitung KI-gestützter Apps, die nicht einvernehmliche Deepfake-Nacktbilder erzeugen können, eine besorgniserregende Entwicklung darstellt, die die Dringlichkeit unterstreicht, ethische, rechtliche und datenschutzrechtliche Fragen im digitalen Zeitalter anzugehen. Angesichts der technologischen Entwicklung müssen sowohl Gesetzgeber als auch Technologieunternehmen proaktive Maßnahmen ergreifen, um den Missbrauch von KI für böswillige Zwecke zu bekämpfen und Einzelpersonen vor potenziellen Schäden zu schützen