Internet Watch Foundation warnt, dass KI-Fortschritte CSAM verschlimmern könnten
Enacy Mapakame
3 Min. Lesezeit
- Die IWF hat vor einem potenziellen Anstieg von KI-generiertem CSAM gewarnt, da generative KI-Tools zunehmend verfügbar und leistungsfähiger werden.
- Die IWF hat bereits festgestellt, dass 2024 erstelltes CSAM „realistischer“ wirkt als das aus dem Jahr 2023.
- Die Aufsichtsbehörde fordert nun Gesetze, die die Herstellung und Verbreitung von CSAM unter Strafe stellen.
Die Internet Watch Foundation (IWF) ist besorgt, dass die Verbreitung von KI-generiertem kinderpornografischem Material (CSAM) im Internet aufgrund der Fortschritte bei KI-Tools weiter zunehmen könnte.
Auch lesen: KI-Deepfakes erschweren US-Behörden den Schutz von Kindern – Bericht
Der Sicherheitswächter hat darauf hingewiesen, dass es mit der zunehmenden Sophistizierung von Generative-AI-Tools auch schwieriger geworden ist, zwischen echten Bildern oder Videos und gefälschten, KI-generierten Inhalten zu unterscheiden. Laut der Organisation sind KI-generierte Bilder aus 2024 „realistischer“ geworden als die, die erstmals 2023 zu sehen waren.
Internet Watch Foundation sieht Anstieg von CSAM
Die IWF befürchtet, dass mehr KI-generiertes CSAM ins Internet gelangen könnte während Pädophile die Fortschritte in der KI-Technologie ausnutzen, die Werkzeuge einfacher zu bedienen und weiter verbreitet macht. Der Sicherheitswächter hat bereits einen Anstieg von KI-generiertem CSAM im Internet verzeichnet.
Die Organisation hat bereits Fälle der Manipulation von CSAM festgestellt, während andere Fälle erwachsene Pornografie betrafen, bei der jedoch das Gesicht eines Kindes in das Material eingefügt wurde. Laut der IWF handelte es sich bei einigen der Inhalte um Videos von etwa 20 Sekunden Länge.
Der Chief Technology Officer der IWF, Dan Sexton, gab an, dass die Chancen hoch sind, dass mehr KI-CSAM entstehen wird, wenn KI-Video-Tools denselben Trend wie KI-Bildgenerierungs-Tools verfolgen, da die Technologie in einem schnellen Tempo wächst.
„Ich würde vorläufig sagen, dass wir, wenn es denselben Trends folgt, mehr Videos sehen werden“, sagte er.
Sexton fügte hinzu, dass die Chancen hoch sind, dass zukünftige KI-Videos von „höherer Qualität und Realismus“ sein werden.
Laut Analysten der IWF handelte es sich bei den meisten Videos, die von der Organisation auf einem Dark-Web-Forum von Pädophilen überprüft wurden, um partielle Deepfakes. In diesem Fall wurden frei verfügbare KI-Modelle im Internet genutzt, um Bilder zu manipulieren, darunter auch solche bekannter CSAM-Opfer, in bestehenden CSAM-Videos und erwachsener Pornografie.
Die Organisation fand neun solcher Videos, während eine kleine Anzahl vollständig KI-generierter Videos von grundlegender Qualität war.
(1/4) #AI-Landschaft von kinderpornografischem Material – Letztes Jahr waren wir unter den ersten, die den Alarm über die Verbreitung realistischer #AI-generierter Bilder von Kindesmissbrauch auslösten… pic.twitter.com/s4igkjHH78
— Internet Watch Foundation (IWF) (@IWFhotline) 22. Juli 2024
Der Wächter will die Produktion von CSAM unter Strafe stellen
Die IWF drängt nun auf Gesetze, die die Produktion eines solchen Materials, einschließlich Anleitungen zur Erstellung solcher Inhalte, unter Strafe stellen. Ebenso sollte die Entwicklung von Tools und Plattformen, die die Erstellung von CSAM ermöglichen, unter Strafe gestellt werden.
Dies geschieht, während eine in diesem Jahr durchgeführte Studie eines einzelnen Dark-Web-Forums 12.000 neue KI-generierte Bilder aufzeigte, die über einen Zeitraum von einem Monat gepostet wurden.
Laut IWF waren neun von zehn dieser Bilder realistisch und könnten nach denselben britischen Gesetzen verfolgt werden, die echtes CSAM abdecken.
Auch lesen: Texas-Mann wegen Kaufs von Kinderpornografie mit Kryptowährung verurteilt
Im vergangenen Jahr gab das National Center for Missing and Exploited Children (NCMEC) an, dass es zahlreiche Berichte über Pädophile erhielt, die KI auf unterschiedliche Weise nutzten, etwa indem sie Texteingaben zur Erstellung von kindermisshandelnden Bildern verwendeten. In einigen Fällen veränderten die Täter zuvor hochgeladene Bilder, um sie sexuell explizit und missbräuchlich zu gestalten.
IWF-CEO Susie Hargreaves hob die Notwendigkeit hervor, Generative-AI-Tools zu regulieren, um die Verbreitung von CSAM einzudämmen.
„Ohne angemessene Kontrollen bieten Generative-AI-Tools Online-Räubern einen Spielplatz, um ihre perverssten und ekelhaftesten Fantasien zu verwirklichen“, sagte Hargreaves.
Hargreaves fügte hinzu, dass die IWF beginne, mehr CSAM zu sehen, das auf kommerziellen Websites für Kindesmissbrauch geteilt und verkauft wird.
Laut The Guardian hat eine andere Organisation, die eine Hotline zur Meldung von Missbrauch betreibt, bekannt gegeben, dass sie auf Online-Plattformen von Tätern angebotenes, KI-generiertes CSAM gefunden hat.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Enacy Mapakame
Enacy Mapakame ist Journalistin mit über 10 Jahren Erfahrung in den Bereichen Wirtschafts- und Finanznachrichten. Sie berichtet über Kapitalmärkte und aufstrebende Technologien – das Metaverse, KI und Kryptowährungen. Enacy besitzt einen Bachelor of Science (BSc) im Fachbereich Medien- und Gesellschaftsstudien mit Auszeichnung.
