Un rapporto di Stanford scopre la pornografia infantile nei dati di addestramento dell'intelligenza artificiale

Lo Stanford Internet Observatory ha fatto una scoperta sconcertante: oltre 1.000 immagini false di abusi sessuali su minori sono presenti in LAION-5B, un set di dati utilizzato per l'addestramento dei generatori di immagini di intelligenza artificiale. Questa scoperta, resa pubblica ad aprile, ha sollevato serie preoccupazioni circa le fonti e i metodi utilizzati per la compilazione dei materiali di formazione per l'intelligenza artificiale.

LAION-5B, in collaborazione con Stable Diffusion, il creatore di immagini AI di Stability AI con sede a Londra, ha accumulato queste immagini campionando contenuti da social media e siti web pornografici. La scoperta di tali contenuti nei materiali di formazione sull'intelligenza artificiale è allarmante, considerando l'ampio utilizzo e la potenziale influenza di queste piattaforme.

Affrontare la sfida con la tecnologia

I ricercatori di Stanford, nel loro tentativo didentqueste immagini, non hanno visualizzato direttamente i contenuti offensivi. Hanno invece utilizzato la tecnologia PhotoDNA di Microsoft, uno strumento progettato per rilevare immagini di abusi su minori confrontando le immagini hash con contenuti offensivi noti provenienti da vari database.

I risultati del team di Stanford, comunicati alle organizzazioni non profit più rilevanti negli Stati Uniti e in Canada, sottolineano l'urgente necessità di misure più rigorose nella gestione dei set di dati per l'addestramento dell'IA. I ricercatori suggeriscono l'utilizzo di strumenti come PhotoDNA per le future compilazioni di set di dati, al fine di filtrare i contenuti dannosi. Tuttavia, evidenziano anche le sfide nella pulizia dei set di dati aperti, in particolare in assenza di un'autorità di hosting centralizzata.

In risposta alla segnalazione, LAION, ovvero Large-scale Artificial Intelligence Open Network, ha temporaneamente rimosso i suoi set di dati per garantirne la sicurezza prima di ripubblicarli. LAION ha sottolineato la sua politica di tolleranza zero per i contenuti illegali e la necessità di cautela nel maneggiare materiali così sensibili.

Le implicazioni e le risposte più ampie

Questo problema non si limita al set di dati in questione. Il rapporto di Stanford suggerisce che anche un piccolo numero di immagini offensive può avere un impatto significativo sugli strumenti di intelligenza artificiale, consentendo loro di generare migliaia di deepfake. Ciò rappresenta una minaccia globale per i giovani e i bambini, poiché non solo perpetua, ma amplifica anche gli abusi sulle vittime reali.

La corsa al mercato di molti progetti di intelligenza artificiale generativa è stata criticata, con esperti come David Thiel, responsabile della tecnologia dello Stanford Internet Observatory, che propugnano un'attenzione più rigorosa alla compilazione dei dataset. Thiel sottolinea che un'analisi così estesa su Internet dovrebbe essere limitata alle operazioni di ricerca e non resa open source senza un'attenta verifica.

Alla luce di questi risultati, Stability AI, un importante utilizzatore del dataset LAION, ha adottato misure per mitigare i rischi di abuso. Versioni più recenti del suo modello Stable Diffusion sono state progettate per rendere più complessa la creazione di contenuti dannosi. Tuttavia, una versione precedente, rilasciata lo scorso anno, presenta ancora rischi ed è ampiamente utilizzata in altre applicazioni.

Le reazioni internazionali a questo problema sono state diverse. Negli Stati Uniti, il governo sta lanciando un istituto per la sicurezza dell'IA per valutare i rischi posti dai modelli di IA. Analogamente, l'Australia sta implementando nuovi algoritmi per impedire la condivisione di materiale pedopornografico creato dall'IA. In Gran Bretagna, i principali sviluppatori di IA hanno accettato di collaborare con i governi per testare i nuovi modelli prima della loro diffusione.

Il vertice globale sulla sicurezza dell'IA tenutosi in Gran Bretagna ha visto la firma della "Dichiarazione di Bletchley" da parte di oltre 25 paesi, tra cui Stati Uniti e India, nonché l'Unione Europea. Questo accordo mira a stabilire un approccio comune alla supervisione dell'IA, sottolineando l'impegno della comunità internazionale a gestire responsabilmente i rischi legati all'IA.

La scoperta di materiale pedopornografico nei set di dati di addestramento dell'IA solleva profonde preoccupazioni etiche e di sicurezza. Evidenzia la necessità di meccanismi di gestione e monitoraggio dei dati più rigorosi nello sviluppo delle tecnologie di IA. Con la continua evoluzione dell'IA e la sua permeazione di vari aspetti della vita, garantire l'uso etico e l'implementazione sicura di queste tecnologie diventa sempre più cruciale.