Le aziende tecnologiche sono esortate a combattere l'aumento del materiale di abuso sessuale minorile generato dall'IA

Lo scorso anno è stato definito l'"anno più estremo mai registrato" dalla fondazione britannica Internet Watch Foundation (IWF), che ha scoperto un preoccupante totale di 275.652 convincenti immagini di abuso sessuale minorile online, con un numero spaventoso di casi in cui i predatori hanno costretto le vittime a produrre materiale esplicito – esortando le aziende tecnologiche e le piattaforme online ad agire rapidamente – mentre le normative hanno rallentato e l'Intelligenza Artificiale

"Ogni URL può rivelare solo uno, una dozzina, centinaia o persino migliaia di quelle immagini o video individuali di abuso sessuale minorile", ha detto il rapporto (92%) (con sé o con la coercizione o l'aiuto di una rete sociale per eseguire oltre una webcam").

Risultati dell'IWF

Secondo l'IWF, i numeri sono stati derivati da "ricerca proattiva" e un'analisi di quasi 400.000 segnalazioni in tutto il mondo attraverso più di 50 portali di segnalazione. Questo rappresenta un aumento dell'8% rispetto all'anno precedente.

Gli Stati Uniti erano il paese principale con il 14,8% dei siti web, con 41.502 URL, in aumento di una proporzione della nazione come host rispetto all'anno recente del 34%, un terzo di tutti i siti web annessi.

L'IWF ha detto che l'analisi ha mostrato che 2.401 video generati da sé di bambini di età compresa tra 3 e 6 anni erano fuori da questo. La maggior parte di quei bambini erano ragazze, il che è un segnale che mostra come gli abusatori considerati "opportunisti" oggi siano molto attivi nell'abuso sessuale non solo con bambini adolescenti ma anche con bambini piccoli.

Misure da prendere 

È la posizione dell'IWF che "le aziende tecnologiche e le piattaforme online" dovrebbero immediatamente rafforzare tali misure di sicurezza per l'online dei bambini invece di dipendere dai governi che intraprendono l'azione di regolamentazione molto dolorosa o perdono più tempo per far entrare in vigore questa attività nel Regno Unito con il suo Online Safety Act. L'IWF ha rivelato che la categoria del materiale ha anche visto un aumento del 22% rispetto al 2022. Tale contenuto estremo visto sempre più frequentemente è una delle tendenze, secondo l'IWF; dal 2021 al 2022, la quantità di contenuto di Categoria A è aumentata del 38%. 

Il numero di casi di sextorsione – l'uso di immagini/file di bambini, informazioni o video che i perpetratori possono poi usare per ricattare le vittime per ottenere più immagini/soldi – è anche in aumento. L'agenzia ha registrato solo 6 casi di questo tipo nel 2021 quando hanno introdotto il meccanismo di segnalazione. L'anno scorso, ha riferito che l'istituzione ha visto 176 casi correlati alla sextorsione. La fondazione ha sottolineato che le prove IA riceve e genera sta diventando una seria minaccia per i bambini su Internet. Nel 2023, l'IWF ha concluso di aver elaborato 51 pagine web contenenti immagini generate automaticamente di abuso sessuale minorile, 38 con l'aspetto che fossero reali.

In questo modo, sono stati contenuti nei rapporti statistici come immagini "reali". Inoltre, altri 228 URL avevano contenuti generati dall'IA. Sebbene solo una piccola percentuale del materiale scrutinato dall'IWF sia generata dal computer, l'organizzazione di beneficenza è allarmata per il "potenziale di rapida crescita". Questo è il caso, specialmente in domini come la pubblicazione di manuali su come creare o distribuire materiale pedopornografico attraverso l'IA, che potrebbe cadere al di fuori delle strutture legali esistenti. L'IWF ha detto di aver incontrato un testo manuale su DW che spiegava come i perpetratori "Abbiamo visto questo comportamento prima, ma il fatto che questa sia la prima prova di criminali che agiscono in concerto per consigliarsi e incoraggiarsi a vicenda a usare l'IA per scopi di autodifesa è particolarmente disturbante" ha commentato l'IWF.