Stanford Report Scopre Pedopornografia nei Dati di Addestramento dell'IA

L'Internet Observatory di Stanford ha fatto una scoperta sconvolgente: oltre 1.000 immagini false di abuso sessuale minorile in LAION-5B, un dataset utilizzato per addestrare generatori di immagini IA. Questa scoperta, resa pubblica ad aprile, ha sollevato gravi preoccupazioni sulle fonti e sui metodi utilizzati per compilare i materiali di addestramento dell'IA.

LAION-5B, associato al generatore di immagini IA Stable Diffusion di Stability AI con sede a Londra, ha accumulato queste immagini campionando contenuti da social media e siti pornografici. La scoperta di tali materiali nei dati di addestramento dell'IA è allarmante, considerando l'ampio utilizzo e la potenziale influenza di queste piattaforme.

Affrontare la sfida con la tecnologia

I ricercatori di Stanford, nella loro ricerca per identificare queste immagini, non hanno visualizzato direttamente i contenuti abusivi. Hanno invece utilizzato la tecnologia PhotoDNA di Microsoft, uno strumento progettato per rilevare immagini di abuso minorile abbinando immagini hashate con contenuti abusivi noti da vari database.

I risultati del team di Stanford, comunicati alle organizzazioni non profit pertinenti negli Stati Uniti e in Canada, sottolineano la necessità urgente di misure più rigorose nella curatela dei dataset di addestramento dell'IA. I ricercatori suggeriscono l'uso di strumenti come PhotoDNA per le future compilazioni di dataset per filtrare i contenuti dannosi. Tuttavia, evidenziano anche le sfide nella pulizia dei dataset aperti, specialmente in assenza di un'autorità di hosting centralizzata.

In risposta al rapporto, LAION, o la Large-scale Artificial Intelligence Open Network, ha temporaneamente rimosso i suoi dataset per garantirne la sicurezza prima di ripubblicarli. LAION ha sottolineato la sua politica di tolleranza zero per i contenuti illegali e la necessità di cautela nella gestione di materiali così sensibili.

Le Implicazioni e le Risposte più Ampie

Questo problema non è confinato al dataset in questione. Il rapporto di Stanford suggerisce che anche un piccolo numero di immagini abusive può avere un impatto significativo sugli strumenti IA, consentendo loro di generare migliaia di deepfake. Questo rappresenta una minaccia globale per i giovani e i bambini, poiché non solo perpetua ma amplifica anche l'abuso delle vittime reali.

La corsa al mercato di molti progetti di IA generativa è stata criticata, con esperti come David Thiel, chief technologist dell'Internet Observatory di Stanford, che difendono un'attenzione più rigorosa alla compilazione dei dataset. Thiel sottolinea che un tale scraping esteso a livello di internet dovrebbe essere confinato alle operazioni di ricerca e non open-sourced senza un'attenta verifica.

Alla luce di queste scoperte, Stability AI, un utente prominente del dataset LAION, ha intrapreso misure per mitigare i rischi di abuso. Le versioni più recenti del suo modello Stable Diffusion sono state progettate per rendere più difficile la creazione di contenuti dannosi. Tuttavia, una versione più vecchia rilasciata lo scorso anno presenta ancora rischi ed è ampiamente utilizzata in altre applicazioni.

Le reazioni internazionali a questo problema sono state varie. Negli Stati Uniti, il governo sta lanciando un istituto per la sicurezza dell'IA per valutare i rischi posti dai modelli IA. Allo stesso modo, l'Australia sta implementando nuovi algoritmi per impedire la condivisione di materiale di abuso sessuale minorile creato dall'IA. In Gran Bretagna, i principali sviluppatori di IA hanno accettato di lavorare con i governi per testare i nuovi modelli prima del loro rilascio.

Il Global AI Safety Summit in Gran Bretagna ha visto la firma della “Dichiarazione di Bletchley” da oltre 25 paesi, inclusi gli Stati Uniti e l'India, nonché dall'Unione Europea. Questo accordo mira a stabilire un approccio comune alla supervisione dell'IA, sottolineando l'impegno della comunità internazionale a gestire i rischi dell'IA in modo responsabile.

La scoperta di pedopornografia nei dataset di addestramento dell'IA solleva profonde preoccupazioni etiche e di sicurezza. Evidenzia la necessità di meccanismi più rigorosi di curatela e monitoraggio dei dati nello sviluppo delle tecnologie IA. Man mano che l'IA continua a evolversi e a permeare vari aspetti della vita, garantire l'uso etico e il sicuro dispiegamento di queste tecnologie diventa sempre più cruciale.