KI-gestützte „Nudify“-Apps gewinnen an Popularität, was Bedenken aufwirft

Ein beunruhigender Trend zeichnet sich ab, da Apps und Websites, die künstliche Intelligenz (KI) nutzen, um Frauen auf Fotos auszuziehen, an erheblicher Popularität gewinnen, wie jüngste Forschungen zeigen. Diese Anwendungen, oft als „Nudify“-Dienste bezeichnet, haben ernsthafte Bedenken hinsichtlich Privatsphäre, Ethik und Einwilligung aufgeworfen.

Steigende Popularität

Allein im September besuchten etwa 24 Millionen Menschen diese Auszieh-Websites, wie das Unternehmen für Social-Network-Analyse Graphika berichtete. Viele dieser Dienste werden über beliebte soziale Netzwerke vermarktet, und die Anzahl der Links, die Auszieh-Apps auf Plattformen wie X und Reddit bewerben, ist seit Jahresbeginn um über 2.400 % gestiegen, so Forscher. Die Kernfunktion dieser Apps besteht darin, KI zu nutzen, um Bilder zu manipulieren und eine simulierte nackte Version des Subjekts zu erstellen. Es ist wichtig zu beachten, dass die Mehrheit dieser Dienste ausschließlich Frauen anspricht.

Ethische und rechtliche Dilemmata

Diese KI-gesteuerten Apps sind Teil eines beunruhigenden Trends, der mit nicht einvernehmlicher Pornografie verbunden ist, die durch Fortschritte in der KI-Technologie ermöglicht wird, was zur Verbreitung von Deepfake-Pornografie führt. Deepfake-Pornografie beinhaltet typischerweise die Erstellung gefälschter Medien, wie Videos oder Bilder, oft ohne das Wissen oder die Einwilligung des Subjekts. Diese Bilder werden häufig von sozialen Medienplattformen bezogen und ohne die Kontrolle oder das Wissen des Subjekts verbreitet, was erhebliche ethische und rechtliche Herausforderungen darstellt.

Online-Belästigung und Verletzung der Privatsphäre

Die Bedenken haben zugenommen, da einige dieser Apps und Dienste nicht einvernehmliches Verhalten und Belästigung fördern. Zum Beispiel schlug ein auf X gepostetes Bild, das eine Auszieh-App bewarb, vor, dass Kunden nackte Bilder generieren und sie an die digital ausgezogenen Subjekte senden könnten, was Belästigung und Missbrauch anstiftete. Darüber hinaus haben einige dieser Apps für gesponserte Inhalte auf Googles YouTube-Plattform geworben und tauchten prominent in Suchergebnissen für Begriffe wie „nudify“ auf. Google hat jedoch erklärt, dass es keine Anzeigen mit sexuell expliziten Inhalten zulässt und aktiv gegen verstoßende Anzeigen vorgeht. Bisher haben weder X noch Reddit auf Anfragen nach einer Stellungnahme reagiert.

Verbreitung von Deepfakes

Nicht einvernehmliche Pornografie, die öffentliche Figuren betrifft, ist ein langjähriges Problem im Internet. Allerdings sind Datenschutzexperten zunehmend besorgt, dass Fortschritte in der KI-Technologie Deepfake-Software zugänglicher und effektiver gemacht haben. Diese Tools werden nicht nur von böswilligen Akteuren, sondern auch von normalen Personen, einschließlich Gymnasiasten und Studenten, genutzt, um ahnungslose Opfer zu ins Visier zu nehmen.

Herausforderungen bei der Bekämpfung von Deepfakes

Die Bekämpfung von Deepfake-Pornografie stellt erhebliche Herausforderungen dar. Zwar gibt es Gesetze gegen die Erstellung solcher Inhalte mit Minderjährigen, jedoch gibt es derzeit kein Bundesgesetz in den Vereinigten Staaten, das die Erstellung von Deepfake-Pornografie mit Erwachsenen spezifisch verbietet. Strafverfolgungsbehörden stehen oft vor Schwierigkeiten bei der Untersuchung dieser Fälle, und Opfer haben möglicherweise Mühe, Mittel für rechtliche Schritte aufzubringen.

In einer bemerkenswerten Entwicklung wurde ein Kinderpsychiater in North Carolina im November zu 40 Jahren Freiheitsstrafe verurteilt, weil er Apps zum Entkleiden von Fotos von Patientinnen und Patienten genutzt hatte. Dies markiert die erste Verfolgung dieser Art nach Gesetzen, die die Erstellung von Deepfake-Material zur sexuellen Ausbeutung von Kindern verbieten.

Reaktionen der Plattformen

Als Reaktion auf wachsende Bedenken haben Social-Media-Plattformen Maßnahmen ergriffen. TikTok hat beispielsweise das Schlüsselwort „undress“ (entkleiden) blockiert, das häufig mit diesen Diensten in Verbindung gebracht wird. Wenn Nutzer nach diesem Begriff suchen, erhalten sie eine Warnung, dass er mit Verhalten oder Inhalten in Verbindung stehen könnte, die gegen die Richtlinien der Plattform verstoßen. Ebenso hat Meta Platforms Inc., die Muttergesellschaft von Facebook, begonnen, Schlüsselwörter zu blockieren, die mit der Suche nach Entkleidungs-Apps verbunden sind. Beide Unternehmen lehnten es jedoch ab, weitere Kommentare zu diesem Thema abzugeben.

Rechtliche und ethische Überlegungen

Der Aufstieg von KI-gestützten „Nudify“-Apps unterstreicht die dringende Notwendigkeit, rechtliche und ethische Fragen im Zusammenhang mit Deepfake-Pornos und nicht einvernehmlichen, durch KI generierten Inhalten anzugehen. Während die Technologie weiter fortschreitet, müssen Vorschriften und Schutzmaßnahmen eingeführt werden, um Menschen vor Belästigung, Verletzungen der Privatsphäre und dem Missbrauch von KI für schädliche Zwecke zu schützen.

Zusammenfassend lässt sich sagen, dass die Verbreitung von KI-gesteuerten Apps, die nicht einvernehmliche Deepfake-Nacktbilder generieren können, ein besorgniserregender Trend ist, der die Dringlichkeit hervorhebt, ethische, rechtliche und Datenschutzfragen im digitalen Zeitalter anzugehen. Während sich die Technologie weiterentwickelt, müssen sowohl Gesetzgeber als auch Technologieunternehmen proaktive Maßnahmen ergreifen, um den Missbrauch von KI für bösartige Zwecke zu bekämpfen und Menschen vor möglichen Schäden zu schützen.