Le aziende tecnologiche sono invitate a contrastare l'aumento di materiale pedopornografico generato dall'intelligenza artificiale

L'anno scorso è stato definito "l'anno più estremo mai registrato" dall'organizzazione benefica britannica Internet Watch Foundation (IWF), che ha scoperto ben 275.652 casi di di abusi online, con un numero spaventoso di predatori che hanno costretto le vittime a realizzare materiale esplicito, invitando le aziende tecnologiche e le piattaforme online ad agire rapidamente, poiché le normative hanno rallentato e l'intelligenza artificiale

"Ogni URL può rivelare solo una, una dozzina, centinaia o persino migliaia di queste immagini o video di abusi sessuali su minori", afferma il rapporto (92%) (con l'auto-compilazione o l'aiuto di un social network per eseguire tramite una webcam).

Risultati dell'IWF

Secondo l'IWF, i numeri sono stati ricavati da una "ricerca proattiva" e dall'analisi di quasi 400.000 segnalazioni in tutto il mondo, raccolte attraverso oltre 50 portali di segnalazione. Ciò rappresenta un aumento dell'8% rispetto all'anno precedente.

Gli Stati Uniti sono stati il ​​paese leader con il 14,8% dei siti web, con 41.502 URL, in aumento di una quota della nazione ospitante rispetto all'anno precedente, pari al 34%, ovvero un terzo dell'intero numero di siti web annessi.

L'IWF ha affermato che l'analisi ha mostrato che tra questi c'erano 2.401 video auto-generati di bambini di età compresa tra 3 e 6 anni. La maggior parte di questi bambini erano bambine, il che è un segnale che mostra come gli abusatori considerati "opportunisti" al giorno d'oggi siano molto attivi negli abusi sessuali non solo sui figli degli adolescenti, ma anche sui bambini più piccoli.

Misure da adottare 

L'IWF ritiene che "le aziende tecnologiche e le piattaforme online" dovrebbero immediatamente rafforzare tali misure di sicurezza per la navigazione online dei bambini, invece di affidarsi ai governi che intraprendono dolorose azioni normative o perdere altro tempo affinché questa attività entri in vigore nel Regno Unito con l'Online Safety Act. L'IWF ha rivelato che anche la categoria dei contenuti ha registrato un aumento del 22% rispetto al 2022. La visualizzazione sempre più frequente di contenuti estremi è una delle tendenze, secondo l'IWF; dal 2021 al 2022, la quantità di contenuti di Categoria A è aumentata del 38%. 

È in aumento anche il numero di casi di sextortion – l'utilizzo di immagini/file di minori, informazioni o video che i responsabili possono poi usare per ricattare le vittime e ottenere altre immagini/denaro. L'agenzia ha registrato solo 6 casi di questo tipo nel 2021, anno in cui ha introdotto il meccanismo di soppressione delle prove. L'anno scorso, ha affermato di aver riscontrato 176 casi di sextortion. La fondazione ha sottolineato che le prove che l'intelligenza artificiale riceve e genera stanno diventando una seria minaccia per i bambini su Internet. Nel 2023, l'IWF ha concluso di aver elaborato 51 pagine web contenenti immagini generate automaticamente di abusi sessuali su minori, 38 delle quali con un aspetto che sembrava reale. 

In questo modo, sono state incluse nei rapporti statistici come immagini "reali". Inoltre, altri 228 URL contenevano contenuti generati dall'IA. Sebbene solo una piccola percentuale del materiale esaminato dall'IWF sia generato al computer, l'organizzazione benefica è allarmata a causa del "potenziale di rapida crescita". Ciò è particolarmente vero in ambiti come la pubblicazione di manuali su come creare o distribuire materiale pedopornografico tramite IA, che potrebbe non rientrare nei quadri giuridici esistenti. L'IWF ha affermato di aver trovato su DW un manuale che spiegava come i responsabili "Abbiamo già visto comportamenti simili in passato, ma il fatto che questa sia la prima prova di criminali che agiscono di concerto per consigliarsi e incoraggiarsi a vicenda a usare l'IA a scopo di autodifesa è particolarmente inquietante", avrebbe commentato l'IWF.