I deepfake di IA stanno rendendo difficile per le autorità statunitensi proteggere i bambini – rapporto
Jeffrey Gogo
3 min di lettura
- I magistrati affermano che i deepfake espliciti generati dall'IA di minori costituiscono un incubo per le forze dell'ordine.
- Le immagini sono così realistiche da rendere difficile stabilire se bambini reali siano stati abusati.
- Le segnalazioni online di abusi ai danni di minori hanno raggiunto 36 milioni lo scorso anno.
L'enorme volume di deepfake sessualmente espliciti di bambini generati dall'IA sta rendendo difficile per le forze dell'ordine negli Stati Uniti separare i bambini reali in difficoltà da quelli finti, hanno avvertito procuratori e gruppi per la sicurezza. Dicono che le immagini sono così realistiche che è diventato difficile sapere se i bambini reali siano stati abusati, riporta il Guardian.
Leggi anche: Orsacchiotto Poe, alimentato da ChatGPT, legge le storie della buonanotte ai bambini
Kristina Korobov, avvocato senior presso Zero Abuse Project, un'organizzazione non profit per la sicurezza dei minori con sede nel Minnesota, afferma che il gruppo ha iniziato a notare segnalazioni di immagini di bambini reali create utilizzando l'IA, che non erano stati sessualmente abusati. «Ma ora il loro volto è su un bambino che è stato abusato», dice.
Il procuratore del DoJ dice «siamo sommersi» a causa dell'IA
«A volte riconosciamo il letto o lo sfondo in un video o in un'immagine, il persecutore o la serie da cui proviene, ma ora c'è il volto di un altro bambino sovrapposto», ha detto Korobov, secondo il Guardian.
I modelli IA sono in grado di produrre migliaia di immagini e video simili alle fotografie della vita reale ogni giorno. Secondo il rapporto, questo ha reso più facile per i predatori utilizzare la tecnologia per comunicare contenuti sgradevoli sul dark web e sulla rete mainstream.
Per le autorità, è diventato un incubo. «Da una prospettiva di applicazione della legge, i crimini contro i minori sono una delle aree più carenti di risorse e ci sarà un'esplosione di contenuti dall'IA», ha detto un procuratore del Dipartimento di Giustizia degli Stati Uniti (DoJ), aggiungendo:
«Siamo già sommersi da queste cose.»
Il Centro Nazionale per i Bambini Scomparsi e Sfruttati degli Stati Uniti (NCMEC) afferma che, nel 2023, le segnalazioni di abuso online sui minori sono aumentate del 12%, raggiungendo i 36,2 milioni. Sebbene la maggior parte delle segnalazioni fosse relativa alla circolazione di foto e video reali di bambini sessualmente abusati, il centro ha ricevuto anche 4.700 segnalazioni di immagini o video deepfake generati dall'IA che coinvolgono lo sfruttamento sessuale di minori.
L'NCMEC ha affermato che alcuni dei modi più comuni in cui i predatori hanno utilizzato l'IA includono la modifica di immagini online esistenti per renderle esplicite. I criminali sfruttano anche chatbot di intelligenza artificiale generativa che forniscono istruzioni grafiche su come reclutare bambini per l'abuso.
Le leggi attuali non vanno abbastanza lontano sui deepfake dell'IA
Sembra esserci una lacuna nella definizione di reato. In molte giurisdizioni, possedere immagini che oggettificano sessualmente i bambini è un crimine, ma le leggi non sono ancora avanzate fino a includere le immagini generate dall'IA.
«Quando si presentano i casi nel sistema federale», ha dichiarato il procuratore del Dipartimento di Giustizia, «l'IA non cambia ciò che possiamo perseguire, ma ci sono molti stati in cui è necessario dimostrare che si tratta di un bambino reale». Il procuratore ha aggiunto:
«Contestare la legittimità delle immagini creerà problemi durante i processi. Se fossi un avvocato difensore, è esattamente ciò che argomenterei.»
Anche se le leggi venissero approvate, la tecnologia abilitante sarà comunque necessaria per catturare i criminali e, al momento, esiste un ampio divario. I gruppi per la sicurezza dei minori hanno avvertito che i dipartimenti di polizia potrebbero essere sommersi dalle richieste.
Leggi anche: Il capo dell'ONU avverte che l'IA rende più probabile una guerra nucleare
Le immagini sessualmente esplicite di bambini generate con l'IA hanno iniziato ad aumentare la loro presenza online intorno al 2022, in coincidenza con il rilascio di ChatGPT da parte di OpenAI, secondo il rapporto del Guardian.
L'NCMEC accusa le aziende di IA di non fare abbastanza per prevenire la generazione e la diffusione di contenuti sfruttatori. Lo scorso anno, solo cinque aziende di IA hanno presentato volontariamente rapporti al Centro. A confronto, il 70% delle piattaforme di social media ha condiviso i propri rapporti, ha affermato.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Jeffrey Gogo
Jeffrey Gogo è un giornalista con 20 anni di esperienza nelle notizie e nell'analisi di business, finanza e cambiamento climatico. Il suo lavoro è stato pubblicato dalla Thomson Reuters Foundation, dal The Zimbabwe Herald e da diverse testate online. Ha inoltre scritto ampiamente su intelligenza artificiale e metaverso, iniziando a coprire i mercati delle criptovalute nel 2017. Gogo ha studiato giornalismo e comunicazione di massa presso il CCOSA di Harare.
