Eltern fordern Maßnahmen gegen die Verbreitung KI-generierter Nacktbilder

In einer erschreckenden Enthüllung fordern eine Mutter und ihre 14-jährige Tochter verstärkten Schutz, nachdem KI-generierte Nacktbilder der Jugendlichen und ihrer Mitschülerinnen an einer High School in New Jersey kursierten. Gleichzeitig ermitteln Behörden auf der anderen Seite des Landes in einem ähnlichendent , bei dem ein Teenager mithilfe künstlicher Intelligenz explizite Bilder vondentin einem Vorort von Seattle, Washington, erstellte und verbreitete. 

Diese beunruhigenden Fälle verdeutlichen die dringende Notwendigkeit von Schutzmaßnahmen gegen die zunehmende Bedrohung durch KI-generiertes, explizites Material, das sich insbesondere gegen Frauen und Kinder richtet. Die Verbreitung solcher Inhalte hat ein beispiellosesdenterreicht: Allein in diesem Jahr wurden laut einer Analyse der unabhängigen Forscherin Genevieve Oh, die derdent Associated Press vorliegt, mehr als 143.000 neue Deepfake-Videos online gestellt.

Die zunehmende Bedrohung durch KI-generierte Nacktbilder

Derdent in Westfield, New Jersey, ereignete sich im Sommer, wurde der Schule aber erst am 20. Oktober bekannt. KI-generierte Bilder, die die Gesichter vondentzeigten, kursierten in der Social-Media-App Snapchat unter Freunden. Die betroffenen Familien drängen nun verzweifelt auf Lösungen und fordern die Gesetzgeber auf, wirksame Schutzmaßnahmen gegen die Manipulation von Bildern der Opfer durch KI-Modelle und diverse Plattformen, die offen für ihre Dienste werben, einzuführen.

Die Krise beschränkt sich nicht auf New Jersey. In einem Vorort von Seattle soll ein Teenager mithilfe künstlicher Intelligenz explizite Bilder vondenterstellt und verbreitet haben. Diese Welle vondenthat betroffene Familien, Aktivisten und Rechtsexperten dazu veranlasst, eine bundesweite Regelung zu fordern, die einheitliche Schutzmaßnahmen im ganzen Land gewährleistet. Solche Maßnahmen würden nicht nur die Opfer schützen, sondern auch ein deutliches Signal an potenzielle Täter senden.

Rechtsmittel einlegen

Während mehrere Bundesstaaten, darunter Texas, Minnesota und New York, Gesetze zur Kriminalisierung nicht einvernehmlicher Deepfake-Pornos verabschiedet haben, unterscheiden sich Umfang und Wirksamkeit dieser Gesetze. Bundesstaaten wie Kalifornien und Illinois ermöglichen es Opfern, Täter zivilrechtlich auf Schadensersatz zu verklagen. Derzeit erwägt New Jersey ein eigenes Gesetz zum Verbot von Deepfake-Pornos und zur Verhängung von Strafen, darunter Haftstrafen und Geldstrafen, für deren Verbreitung.

Die Senatorin Kristin Corrado hat in New Jersey einen Gesetzentwurf zur Bekämpfung von Deepfake-Pornos eingebracht und die Notwendigkeit eines Bundesgesetzes für einheitliche Schutzmaßnahmen im ganzen Land betont. Aktivisten setzen sich für ein Bundesgesetz ein, das Organisationen bestraft, die mit Apps zur Erstellung von Deepfakes Profit machen. Dies unterstützt die Bemühungen vondent Joe Bidens Erlass zur Bekämpfung des Einsatzes von KI für explizite Inhalte.

Der Weg vor uns

Während dieses alarmierende Problem immer mehr Aufmerksamkeit erregt, bleibt die Frage: Wird eine bundesweite Regulierung der Schlüssel zur Bekämpfung der zunehmenden Verbreitung KI-generierter pornografischer Inhalte sein? Während einige Gesetzgeber Offenlegungspflichten für KI-generierte Inhalte und Gesetze fordern, die das Teilen von Deepfake-Pornobildern unter Strafe stellen, äußern Organisationen wie die American Civil Liberties Union und die Electronic Frontier Foundation Bedenken hinsichtlich eines möglichen Verstoßes gegen den ersten VerfassungszusatztronDer Kampf gegen KI-generierte pornografische Inhalte geht weiter, und betroffene Familien und Aktivisten setzen sich für den Schutz gefährdeter Personen in einer sich ständig wandelnden digitalen Welt ein. Wie kann die Gesetzgebung angesichts dieser technologischen Bedrohung das richtige Gleichgewicht zwischen dem Schutz von Einzelpersonen und der Wahrung der Meinungsfreiheit herstellen?