KI-Deepfakes erschweren US-Behörden den Schutz von Kindern – Bericht

Die schiere Menge an sexuell expliziten KI-Deepfakes von Kindern macht es den Strafverfolgungsbehörden in den USA schwer, echte Kinder in Not von gefälschten zu unterscheiden, warnten Staatsanwälte und Sicherheitsgruppen. Die Bilder seien so lebensecht, dass es schwierig geworden sei zu erkennen, ob echte Kinder missbraucht wurden, berichtet der Guardian..

Auch lesen: ChatGPT-angetriebener Teddybär Poe liest Kindern Gute-Nacht-Geschichten vor

Kristina Korobov, leitende Anwältin beim in Minnesota ansässigen gemeinnützigen Kinderschutzprojekt Zero Abuse Project, sagt, dass die Gruppe begonnen habe, Berichte über Bilder realer Kinder zu bemerken, die mit KI erstellt wurden, ohne dass diese sexuell missbraucht wurden. „Aber jetzt ist ihr Gesicht auf einem Kind, das missbraucht wurde“, sagt sie.

Staatsanwalt des Justizministeriums sagt: „Wir ertrinken“ aufgrund von KI

„Manchmal erkennen wir das Bettzeug oder den Hintergrund in einem Video oder Bild, den Täter oder die Serie, aus der es stammt, aber jetzt wird einem anderen Kind das Gesicht darauf gesetzt“, sagte Korobov, laut the Guardian.

KI-Modelle sind in der Lage, täglich Tausende von Bildern und Videos zu produzieren, die echten Fotos ähneln. Laut dem Bericht hat dies Raubtieren erleichtert, die Technologie zu nutzen, um unangemessene Inhalte im Dark Web und im Mainstream-Internet zu verbreiten.

Für die Behörden ist dies zu einem Albtraum geworden. „Aus Sicht der Strafverfolgung sind Straftaten gegen Kinder einer der ressourcenärmsten Bereiche, und es wird eine Explosion von KI-generierten Inhalten geben“, sagte ein Staatsanwalt des US-Justizministeriums (DoJ) und fügte hinzu:

„Wir sind damit bereits einfach ertrunken.“

Das US National Center for Missing and Exploited Children (NCMEC) sagt, dass die Berichte über Online-Kindesmissbrauch im Jahr 2023 um 12 % auf 36,2 Millionen stiegen. Während die meisten Berichte mit der Verbreitung von Fotos und Videos realer, sexuell missbrauchter Kinder zusammenhingen, erhielt das Zentrum auch 4.700 Berichte über KI-Deepfake-Bilder oder -Videos, die die sexuelle Ausbeutung von Kindern betreffen.

Das NCMEC gab an, dass einige der häufigsten Methoden, mit denen Raubtiere KI nutzen, darin bestehen, bestehende Online-Bilder zu bearbeiten, um sie explizit zu machen. Kriminelle nutzen auch generative KI-Chatbots, die grafische Anweisungen zur Rekrutierung von Kindern für Missbrauch geben.

Aktuelle Gesetze reichen bei KI-Deepfakes nicht weit genug

Es scheint eine Lücke in der Definition von Straftaten zu geben. In vielen Gerichtsbarkeiten ist der Besitz von Bildern, die Kinder sexuell objektivieren, eine Straftat, aber die Gesetze haben sich noch nicht weiterentwickelt, um KI-generierte Bilder einzubeziehen.

„Wenn wir Fälle im föderalen System anklagen“, sagte der DoJ-Staatsanwalt, „ändert KI nicht, was wir verfolgen können, aber es gibt viele Bundesstaaten, in denen man beweisen muss, dass es ein echtes Kind ist.“ Der Staatsanwalt fügte hinzu:

„Zankereien über die Legitimität von Bildern werden Probleme in den Prozessen verursachen. Wenn ich ein Verteidiger wäre, würde ich genau das argumentieren.“

Selbst wenn die Gesetze verabschiedet werden, wird die ermöglichende Technologie weiterhin benötigt, um Kriminelle zu fassen, und derzeit gibt es eine große Lücke. Kinderschutzgruppen warnten, dass Polizeibehörden wahrscheinlich mit Anfragen überflutet werden.

Auch lesen: UN-Chef warnt: KI macht Atomkrieg wahrscheinlicher

Sexuell explizite Bilder von Kindern, die mit KI erstellt wurden, begannen um 2022, zeitgleich mit der Veröffentlichung von ChatGPT durch OpenAI, ihren Fußabdruck im Internet zu vergrößern, so der Guardian-Bericht.

Das NCMEC wirft KI-Unternehmen vor, nicht genug zu tun, um die Erstellung und Verbreitung ausbeuterischer Inhalte zu verhindern. Letztes Jahr reichten nur fünf KI-Unternehmen freiwillig Berichte beim Zentrum ein. Im Vergleich dazu gaben 70 % der Social-Media-Plattformen ihre Berichte ab, hieß es.