L'UNICEF chiede leggi più severe per criminalizzare i contenuti di abuso sessuale sui minori generati dall'IA

Il Fondo delle Nazioni Unite per l'Infanzia (UNICEF) mercoledì ha segnalato rapporti su un rapido aumento del volume di immagini sessualizzate generate dall'IA che circolano su internet. Quelle immagini generate dall'IA includevano principalmente casi in cui le fotografie di bambini erano state manipolate e sessualizzate.

L'agenzia ha sostenuto che l'aumento degli strumenti di generazione di immagini o video basati sull'IA che producono materiale di abuso sessuale minorile aumenta i rischi per i bambini attraverso le tecnologie digitali. L'UNICEF ha anche chiesto un'azione urgente da parte dei governi e del settore per prevenire la creazione e la diffusione di contenuti sessualizzati sui minori generati dall'IA.

I contenuti sessualizzati generati dall'IA causano danni emotivi a lungo termine ai bambini

L'abuso deepfake è abuso.

Le immagini, i video o gli audio sessualizzati di minori generati o manipolati utilizzando strumenti di IA sono materiale di abuso sessuale minorile. Anche senza una vittima identificabile, normalizzano lo sfruttamento sessuale dei bambini.

L'UNICEF chiede un'azione urgente per prevenire…

— UNICEF (@UNICEF) febbraio 4, 2026

L'organizzazione delle Nazioni Unite ha notato che meno di 5 anni fa, i modelli generativi di alta qualità richiedevano una potenza di calcolo significativa e competenze specializzate. Tuttavia, i modelli open source attuali rendono più facile per i perpetratori creare contenuti di abuso sessuale. 

L'agenzia ritiene che, sebbene nessun bambino reale sia direttamente coinvolto, tali contenuti normalizzino la sessualizzazione dei bambini e complicino l'identificazione delle vittime. L'UNICEF ha anche ha sostenuto che i perpetratori possono creare immagini sessuali realistiche di un bambino senza il suo coinvolgimento o consapevolezza. 

L'UNICEF ha dichiarato che tali contenuti possono violare il diritto del bambino alla protezione senza che ne sia nemmeno a conoscenza. L'agenzia ha anche affermato che i bambini si trovano ad affrontare vergogna, stigma, un maggiore giudizio da parte di coetanei e adulti, isolamento sociale e danni emotivi a lungo termine.

L'UNICEF ha anche rivelato che l'aumento dell'accessibilità degli strumenti di generazione di immagini o video basati sull'IA ha portato a un aumento della produzione e della diffusione di materiale di abuso sessuale minorile (CSAM). La Internet Watch Foundation (IWF) del Regno Unito ha trovato circa 14.000 sospette immagini generate dall'IA su un singolo forum del dark web dedicato al materiale di abuso sessuale minorile in appena un mese. Il rapporto ha rivelato che un terzo dei materiali era criminale e includeva i primi video realistici di abuso sessuale minorile generati dall'IA. 

L'IWF ha anche scoperto 3.440 video di abuso sessuale minorile generati dall'IA, un aumento del 26.362% rispetto ai 13 video trovati l'anno precedente. 2.230 (65%) dei video sono stati classificati come Categoria A per la loro estrema gravità, mentre ulteriori 1.020 (30%) sono stati classificati come Categoria B.

L'IWF ha inoltre identificato CSAM generato dall'IA su piattaforme mainstream, che includevano nudes deepfake creati in contesti peer-to-peer che prendevano di mira le ragazze. L'organizzazione ha anche segnalato un caso in Corea in cui le forze dell'ordine ha riportato hanno registrato un aumento di 10 volte degli reati sessuali che coinvolgono tecnologie IA e deepfake tra il 2022 e il 2024. 

L'IA e i deepfake coinvolgevano principalmente adolescenti, costituendo la maggior parte degli accusati. L'indagine di Thorny scoperto ha rivelato che 1 adolescente su 10 negli Stati Uniti conosceva casi in cui gli amici avevano creato immagini intime sintetiche non consensuali di minori utilizzando strumenti di IA.

L'UNICEF, ECPAT International e INTERPOL hanno anche scoperto che in 11 paesi, circa 1,2 milioni di bambini hanno visto le loro immagini manipolate in deepfake sessualmente espliciti attraverso strumenti di IA nel 2025. Le agenzie hanno anche ha riportato che fino a due terzi dei bambini in alcuni dei 11 paesi temono che l'IA possa essere utilizzata per creare immagini sessuali false.

L'UNICEF ha sostenuto che i genitori e i caregiver devono essere informati sullo sfruttamento e l'abuso sessuale abilitati dall'IA. L'agenzia ha anche chiesto alle scuole di educare gli studenti sui rischi legati all'IA e sui danni che causano agli individui colpiti.

I paesi si distanziano da Grok a causa dei suoi deepfake sessualizzati generati dall'IA

La relazione dell'UNICEF arriva mentre lo strumento di IA di Elon Musk Grok ha implementato funzionalità che impediscono allo strumento di modificare le foto reali di persone reali per mostrarle in abiti succinti nei paesi dove è proibito. L'iniziativa è arrivata dopo le ampie preoccupazioni per i deepfake sessualizzati generati dall'IA.

Il governo del Regno Unito ha chiesto a X di controllare Grok, mentre il regolatore Ofcom ha dichiarato che sta lavorando giorno e notte per risolverlo. X ha in una dichiarazione che l'azienda aveva geobloccato la capacità di tutti gli utenti di generare immagini di persone reali in bikini, biancheria intima e abbigliamento simile tramite l'account Grok e in Grok su X nei paesi dove è proibito.

Malesia e Indonesia hanno anche bloccato l'accesso a Grok all'inizio dello scorso mese per la sua capacità di generare deepfake sessualmente espliciti. Cryptopolitan ha riportato all'inizio di questo mese che l'Indonesia aveva permesso a Grok di riprendere le operazioni dopo che X si era impegnata a migliorare la conformità con le leggi del paese.