Tech-Unternehmen aufgefordert, Anstieg an KI-generiertem Material zur sexuellen Ausbeutung von Kindern zu bekämpfen

Letztes Jahr wurde von der britischen Wohltätigkeitsorganisation Internet Watch Foundation (IWF) als das „extremste Jahr in der Geschichte“ bezeichnet. Die Organisation entdeckte beunruhigende 275.652 Vorfälle von kinders sexueller Ausbeutung-Bildmaterial online, wobei eine erschreckende Anzahl davon von Tätern stammte, die Opfer dazu zwangen, explizite Materialien herzustellen – und forderte Technologieunternehmen und Online-Plattformen auf, schnell zu handeln, da die Regulierungen ins Stocken geraten sind und Künstliche Intelligenz

„Jede URL kann nur einen, ein Dutzend, Hunderte oder sogar Tausende dieser einzelnen Bilder oder Videos von kinders sexueller Ausbeutung enthüllen“, heißt es in dem Bericht (92 %) (mit Selbst- oder Zwangshilfe oder Unterstützung durch soziale Netzwerke, um über eine Webcam durchzuführen).“

Ergebnisse der IWF

Laut IWF stammten die Zahlen aus „proaktiver Suche“ und einer Analyse von fast 400.000 Berichten weltweit durch mehr als 50 Meldeportale. Dies entspricht einem Anstieg von 8 % gegenüber dem Vorjahr.

Die USA waren das führende Land mit 14,8 % der Websites, mit 41.502 URLs, was einem Anstieg um einen Anteil der Nation als Gastgeber im letzten Jahr von 34 %, einem Drittel der gesamten angehängten Websites, entspricht.

Die IWF sagte, die Analyse habe gezeigt, dass 2.401 selbstgenerierte Videos von Kindern im Alter von 3-6 Jahren davon ausgingen. Die meisten dieser Kinder waren Mädchen, was ein Zeichen dafür ist, dass die als „Gelegenheitstäter“ geltenden Missbraucher heutzutage sehr aktiv sind in sexueller Ausbeutung nicht nur von Kindern im Teenageralter, sondern auch von kleinen Kindern.

Zu ergreifende Maßnahmen 

Es ist die Haltung der IWF, dass „Technologieunternehmen und Online-Plattformen“ sofort solche Sicherheitsmaßnahmen für die Online-Präsenz von Kindern ausbauen sollten, anstatt sich darauf zu verlassen, dass Regierungen die sehr schmerzhaften regulatorischen Maßnahmen ergreifen oder mehr Zeit für das Inkrafttreten dieser Aktivitäten im Vereinigten Königreich mit seinem Online-Safety Act verlieren. Die IWF gab bekannt, dass auch die Materialkategorie im Vergleich zu 2022 um 22 % zugenommen hat. Solche extreme Inhalte werden zunehmend häufiger angesehen, was laut IWF einer der Trends ist; von 2021 bis 2022 stieg die Menge an Kategorie-A-Inhalten um 38 %. 

Auch die Zahl der Fälle von Sextortion – der Verwendung von Bildern/Dateien von Kindern, Informationen oder Videos, die Täter dann nutzen können, um ihre Opfer für weitere Bilder/Geld zu erpressen – steigt. Die Agentur verzeichnete im Jahr 2021, als sie den Sperrmechanismus einführte, nur 6 Fälle dieser Art. Letztes Jahr gab sie an, dass die Institution 176 sextortion-bezogene Fälle verzeichnete. Die Stiftung betonte, dass die Beweise, die KI erhält und generiert, eine ernsthafte Bedrohung für Kinder im Internet darstellen. Im Jahr 2023 kam die IWF zu dem Schluss, dass sie 51 Webseiten verarbeitet hatte, die automatisch generierte Bilder von kinders sexueller Ausbeutung enthielten, 38 davon sahen so aus, als wären sie echt.

Auf diese Weise wurden sie in den Statistikberichten als „echte“ Bilder geführt. Außerdem enthielten weitere 228 URLs KI-generierte Inhalte. Obwohl nur ein kleiner Prozentsatz des von der IWF untersuchten Materials computergeneriert ist, ist die Wohltätigkeitsorganisation alarmiert wegen des „Potenzials für schnelles Wachstum“. Dies ist insbesondere in Bereichen wie der Veröffentlichung von Handbüchern zur Erstellung oder Verbreitung kinderpornografischen Materials durch KI der Fall, die außerhalb der bestehenden Rechtsrahmen fallen könnten. Die IWF gab an, auf einen Text Handbuch auf DW gestoßen zu sein, der erklärt, wie die Täter „Wir haben ein solches Verhalten schon einmal gesehen, aber die Tatsache, dass dies der erste Beweis dafür ist, dass Kriminelle im Verbund handeln, um sich gegenseitig zur Nutzung von KI zu Selbstzwecken zu beraten und zu ermutigen, ist besonders beunruhigend“, kommentierte die IWF angeblich.