UNICEF fordert strengere Gesetze zur Kriminalisierung von KI-generierten Inhalten zum Missbrauch von Kindern

Der Fonds der Vereinten Nationen für Kinder (UNICEF) verwies am Mittwoch auf Berichte über einen raschen Anstieg der Menge an KI-generierten sexualisierten Bildern, die im Internet kursieren. Diese KI-generierten Bilder betreffen hauptsächlich Fälle, in denen Fotos von Kindern manipuliert und sexualisiert wurden.

Die Agentur argumentierte, dass der Anstieg von KI-gestützten Tools zur Erstellung von Bildern oder Videos mit sexuellem Missbrauchsmaterial von Kindern die Risiken für Kinder durch digitale Technologien verschärft. UNICEF forderte zudem dringende Maßnahmen von Regierungen und der Industrie, um die Erstellung und Verbreitung von KI-generierten sexuellen Inhalten über Kinder zu verhindern.

Sexualisierte, KI-generierte Inhalte verursachen langfristige emotionale Schäden bei Kindern

Deepfake-Missbrauch ist Missbrauch.

Sexualisierte Bilder, Videos oder Audiodateien von Kindern, die mit KI-Tools erstellt oder manipuliert wurden, stellen Material zum sexuellen Missbrauch von Kindern dar. Selbst ohne identifizierbares Opfer normalisiert dies die sexuelle Ausbeutung von Kindern.

UNICEF fordert dringende Maßnahmen, um…

— UNICEF (@UNICEF) Februar 4, 2026

Die UN-Organisation stellte fest, dass vor weniger als fünf Jahren hochwertige Generative-Modelle erhebliche Rechenleistung und Fachwissen erforderten. Die aktuellen Open-Source-Modelle machen es Tätern jedoch leichter, Inhalte zum sexuellen Missbrauch zu erstellen. 

Die Agentur ist der Ansicht, dass solche Inhalte, obwohl kein reales Kind direkt beteiligt ist, die Sexualisierung von Kindern normalisieren und die Identifizierung von Opfern erschweren. UNICEF fordert zudem argumentierte dass Täter realistische sexuelle Bilder eines Kindes erstellen können, ohne dass das Kind involviert oder sich dessen bewusst ist. 

UNICEF erklärte, dass solche Inhalte die Schutzrechte von Kindern verletzen können, ohne dass dies überhaupt bemerkt wird. Die Agentur stellte zudem fest, dass Kinder mit Scham, Stigmatisierung, stärkerer Verurteilung durch Gleichaltrige und Erwachsene, sozialer Isolation sowie langfristigen emotionalen Schäden konfrontiert sind.

UNICEF gab zudem bekannt, dass der zunehmende Zugang zu KI-gestützten Tools zur Bild- oder Videoerstellung zu einem Anstieg der Produktion und Verbreitung von Materialien zur sexuellen Ausbeutung von Kindern (CSAM) geführt hat. Die britische Internet Watch Foundation (IWF) fand etwa 14.000 vermutete KI-generierte Bilder auf einem einzigen Darknet-Forum, das ausschließlich der Verbreitung von Materialien zur sexuellen Ausbeutung von Kindern gewidmet war, bereits in nur einem Monat. Der Bericht enthüllte, dass ein Drittel dieser Materialien strafrechtlich relevant waren und es sich bei den ersten realistischen KI-Videos um Darstellungen sexueller Ausbeutung von Kindern handelte. 

Die IWF entdeckte zudem 3.440 KI-Videos zur sexuellen Ausbeutung von Kindern – ein Anstieg von 26.362 % gegenüber den 13 Videos des Vorjahres. Davon wurden 2.230 (65 %) als Kategorie A eingestuft, da sie besonders extrem waren, während weitere 1.020 (30 %) der Kategorie B zugeordnet wurden.

IWF identifizierte zudem KI-generierte CSAM auf Mainstream-Plattformen, darunter Deepfake-Nacktbilder, die in Peer-to-Peer-Kontexten gezielt gegen Mädchen erstellt wurden. Die Organisation verwies zudem auf einen Vorfall in Korea, bei dem Strafverfolgungsbehörden berichtete einen 10-fachen Anstieg sexueller Straftaten im Zusammenhang mit KI und Deepfake-Technologien zwischen 2022 und 2024 feststellten. 

Bei den KI- und Deepfake-Inhalten handelte es sich hauptsächlich um Jugendliche, die die Mehrheit der Beschuldigten stellten. Thornys Umfrage zeigte dass jeder zehnte Teenager in den USA von Fällen wusste, in denen Freunde mithilfe von KI-Tools synthetische nicht-einvernehmliche intime Bilder von Kindern erstellt hatten.

UNICEF, ECPAT International und INTERPOL stellten ebenfalls fest, dass in 11 Ländern rund 1,2 Millionen Kinder im Jahr 2025 ihre Bilder durch KI-Tools zu sexuell expliziten Deepfakes manipuliert fanden. Die Agenturen stellten auch berichtete fest, dass bis zu zwei Drittel der Kinder in einigen der 11 Länder befürchten, dass KI zur Erstellung gefälschter sexueller Bilder genutzt werden könnte.

UNICEF betonte, dass Eltern und Betreuungspersonen über sexualisierte Ausbeutung und Missbrauch durch KI informiert werden müssen. Die Agentur forderte zudem Schulen auf, Schüler über KI-bedingte Risiken und die Schäden aufzuklären, die sie für betroffene Personen verursachen.

Länder distanzieren sich von Grok aufgrund seiner sexualisierten KI-Deepfakes

UNICEFs Bericht erscheint, während Elon Musks KI-Tool Grok Funktionen implementiert hat, die verhindern, dass das Tool echte Fotos realer Personen bearbeitet, um sie in Ländern, in denen dies verboten ist, in aufreizender Kleidung zu zeigen. Die Initiative erfolgte nach weit verbreiteten Bedenken hinsichtlich sexualisierter KI-Deepfakes.

Die britische Regierung forderte X auf, Grok zu kontrollieren, während die Aufsichtsbehörde Ofcom sagte, sie arbeite rund um die Uhr an der Behebung des Problems. X sagte teilte in einer Stellungnahme mit, dass das Unternehmen für alle Nutzer die Möglichkeit gesperrt habe, über den Grok-Account und in Grok in X Bilder realer Personen in Bikinis, Unterwäsche und ähnlicher Kleidung in Ländern zu generieren, in denen dies verboten ist.

Malaysia und Indonesien blockierten Anfang letzten Monats ebenfalls den Zugang zu Grok aufgrund seiner Fähigkeit, sexuell explizite Deepfakes zu erzeugen. Cryptopolitan berichtete berichtete Anfang dieses Monats, dass Indonesien Grok die Wiederaufnahme des Betriebs erlaubt hatte, nachdem sich X zur Verbesserung der Einhaltung der Gesetze des Landes verpflichtet hatte.