Technologieunternehmen werden dringend aufgefordert, die Zunahme von KI-generiertem Material über sexuellen Kindesmissbrauch zu bekämpfen

Das vergangene Jahr wurde von der britischen Wohltätigkeitsorganisation Internet Watch Foundation (IWF) als das „extremste Jahr seit Beginn der Aufzeichnungen“ bezeichnet. Sie entdeckte erschreckende 275.652 Fälle von kinderpornografischem Bildmaterial im Internet, wobei eine beängstigende Anzahl von Tätern ihre Opfer zur Erstellung expliziten Materials zwang. Die IWF forderte Technologieunternehmen und Online-Plattformen zum schnellen Handeln auf, da sich die Regulierung verlangsamt habe und künstliche Intelligenz…

„Jede URL kann stattdessen nur ein, ein Dutzend, Hunderte oder sogar Tausende dieser einzelnen Bilder oder Videos von sexuellem Kindesmissbrauch enthüllen“, heißt es in dem Bericht (92%) (mit eigener Beteiligung, unter Zwang oder mithilfe sozialer Netzwerke, um vor einer Webcam aufzutreten).

IWF-Ergebnisse

Laut IWF wurden die Zahlen durch „proaktive Recherchen“ und die Analyse von fast 400.000 Meldungen weltweit über mehr als 50 Meldeportale ermittelt. Dies entspricht einem Anstieg von 8 % gegenüber dem Vorjahr.

Die USA waren mit 14,8 % der Websites und 41.502 URLs das führende Land. Dies bedeutet einen Anstieg um einen Prozentpunkt gegenüber dem Vorjahr, als der Anteil der USA als Gastgeber bei 34 % lag, was einem Drittel aller annektierten Websites entspricht.

Laut IWF ergab die Analyse, dass 2.401 selbst erstellte Videos von Kindern im Alter von 3 bis 6 Jahren darunter waren. Die meisten dieser Kinder waren Mädchen, was darauf hindeutet, dass die Täter, die heutzutage als „Opportunisten“ gelten, sehr aktiv im sexuellen Missbrauch sind – nicht nur von Teenagern, sondern auch von Kleinkindern.

Zu ergreifende Maßnahmen 

Die IWF vertritt die Auffassung, dass Technologieunternehmen und Online-Plattformen unverzüglich die Sicherheitsmaßnahmen für Kinder im Internet verstärken sollten, anstatt auf die oft schmerzhaften Regulierungsmaßnahmen der Regierungen zu warten oder die Umsetzung des britischen Online Safety Act hinauszuzögern. Die IWF gab bekannt, dass die Kategorie A im Vergleich zu 2022 um 22 % gestiegen ist. Der zunehmende Konsum solcher extremen Inhalte ist laut IWF ein Trend; von 2021 bis 2022 stieg die Menge an Inhalten der Kategorie A um 38 %. 

Die Zahl der Fälle von Sextortion – der Verwendung von Bildern, Dateien, Informationen oder Videos von Kindern, um die Opfer anschließend mit weiteren Bildern oder Geld zu erpressen – nimmt ebenfalls zu. Die Behörde verzeichnete 2021, im Jahr der Einführung des Meldesystems, lediglich sechs solcher Fälle. Im vergangenen Jahr meldete sie 176 Fälle im Zusammenhang mit Sextortion. Die Stiftung betonte, dass die von KI generierten Beweise eine ernsthafte Bedrohung für Kinder im Internet darstellen. Im Jahr 2023 stellte die IWF fest, 51 Webseiten mit automatisch generierten Bildern von sexuellem Kindesmissbrauch analysiert zu haben, von denen 38 den Anschein erweckten, echt zu sein. 

So wurden sie in den Statistikberichten als „echte“ Bilder erfasst. Darüber hinaus enthielten 228 weitere URLs KI-generierte Inhalte. Obwohl nur ein geringer Prozentsatz des von der IWF untersuchten Materials computergeneriert ist, ist die Organisation aufgrund des „Potenzials für ein rasantes Wachstum“ alarmiert. Dies gilt insbesondere für Bereiche wie die Veröffentlichung von Anleitungen zur Erstellung und Verbreitung kinderpornografischen Materials mithilfe von KI, die möglicherweise außerhalb der bestehenden Rechtslage liegen. Die IWF gab an, auf DW eine Textanleitung gefunden zu haben, die erklärte , wie die Täter vorgehen. „Wir haben solches Verhalten schon einmal beobachtet, aber die Tatsache, dass dies der erste Beweis dafür ist, dass Kriminelle zusammenarbeiten, um sich gegenseitig zu beraten und zu ermutigen, KI zur Selbstverteidigung einzusetzen, ist besonders beunruhigend“, kommentierte die IWF angeblich.