L'Internet Watch Foundation avverte che i progressi dell'IA potrebbero peggiorare la CSAM

L'Internet Watch Foundation (IWF) è preoccupata che la prevalenza di materiale di abuso sessuale minorile (CSAM) generato dall'IA su Internet possa continuare a crescere, alimentata dai progressi degli strumenti di IA.

Leggi anche: I deepfake di IA stanno rendendo difficile per le autorità statunitensi proteggere i bambini – rapporto

L'organismo di vigilanza ha indicato che, man mano che gli strumenti di IA generativa diventano sofisticati, è diventato anche difficile distinguere tra immagini o video reali e contenuti falsi generati dall'IA. Secondo l'organizzazione, le immagini generate dall'IA del 2024 sono diventate più “realistiche” di quelle viste per la prima volta nel 2023.

L'Internet Watch Foundation rileva un aumento del CSAM

L'IWF è preoccupata che più CSAM generato dall'IA possa trovare la sua strada su Internet mentre i predatori sfruttano i progressi nella tecnologia dell'IA, che rende gli strumenti più facili da usare e più diffusi. L'organismo di vigilanza ha già rilevato un aumento del CSAM generato dall'IA su Internet.

L'organizzazione ha già rilevato casi di manipolazione di CSAM, mentre altri casi coinvolgevano pornografia per adulti ma con il volto di un bambino utilizzato nel video. Secondo l'IWF, alcuni dei contenuti includevano video della durata di circa 20 secondi.

Il direttore tecnologico dell'IWF Dan Sexton ha rivelato che ci sono possibilità che emerga più CSAM generato dall'IA se gli strumenti video IA seguono la stessa tendenza degli strumenti di generazione di immagini IA, poiché la tecnologia cresce a un ritmo veloce.

"Direi provvisoriamente che se segue le stesse tendenze, vedremo più video", ha detto.

Sexton ha aggiunto che c'è anche un'alta probabilità che i futuri video dell'IA siano di "qualità e realismo superiori".

Secondo gli analisti dell'IWF, la maggior parte dei video esaminati dall'organizzazione su un forum dark web dai pedofili erano deepfake parziali. In questo caso, sono stati utilizzati modelli IA liberamente disponibili online per manipolare le immagini, comprese quelle di vittime note di CSAM, su video CSAM esistenti e pornografia per adulti.

L'organizzazione ha trovato nove di questi video, mentre un piccolo numero di video interamente realizzati dall'IA era di qualità basilare.

(1/4) #AI panorama del materiale di abuso sessuale minorile – L'anno scorso, siamo stati tra i primi a lanciare l'allarme sulla proliferazione di immagini realistiche #AI generate dall'IA di abuso sessuale minorile… pic.twitter.com/s4igkjHH78

— Internet Watch Foundation (IWF) (@IWFhotline) 22 luglio 2024

L'organismo di vigilanza vuole criminalizzare la produzione di CSAM

L'IWF sta ora spingendo per leggi che criminalizzino la produzione di tale materiale, inclusa la creazione di guide per produrre tale contenuto. Dovrebbe anche criminalizzare lo sviluppo di strumenti e piattaforme che consentono la creazione di CSAM.

Questo arriva mentre uno studio condotto quest'anno su un singolo forum del dark web ha rivelato 12.000 nuove immagini generate dall'IA pubblicate in un periodo di un mese.

Secondo l'IWF, nove immagini su dieci di quelle erano realistiche e potevano essere perseguite ai sensi delle stesse leggi del Regno Unito che coprono il CSAM reale.

Leggi anche: Uomo del Texas condannato per aver acquistato pornografia minorile con criptovalute

L'anno scorso, il Centro Nazionale per i Bambini Scomparsi e Sfruttati (NCMEC) ha dichiarato di aver ricevuto numerose segnalazioni di predatori che utilizzavano l'IA in vari modi, come inserire prompt di testo per creare immagini di abuso minorile. In alcuni casi, i predatori hanno alterato immagini precedentemente caricate per renderle sessualmente esplicite e abusive.

L'amministratore delegato dell'IWF Susie Hargreaves ha sottolineato la necessità di governare gli strumenti di IA generativa per limitare la proliferazione del CSAM.

"Senza controlli adeguati, gli strumenti di IA generativa forniscono un terreno di gioco per i predatori online per realizzare le loro fantasie più perverse e disgustose", ha detto Hargreaves.

Hargreaves ha aggiunto che l'IWF sta iniziando a vedere più CSAM condiviso e venduto su siti commerciali di abuso sessuale minorile.

Secondo il Guardian, un'altra organizzazione che gestisce un numero verde per la segnalazione degli abusi ha rivelato di aver trovato CSAM realizzato dall'IA in vendita su piattaforme online da parte di autori di reati.