La Spagna avvia azioni legali contro X, Meta e TikTok per i rischi di abuso dell'IA

La Spagna ha avviato azioni legali contro X, Meta e TikTok per le accuse secondo cui i loro modelli di IA hanno contribuito a creare e diffondere materiale di abuso sessuale minorile.

Il primo ministro spagnolo Pedro Sánchez ha dichiarato martedì che il gabinetto invocherà l'articolo 8 dello Statuto Organico della Procura della Repubblica. Ha scritto:

"Oggi, il Consiglio dei Ministri invocherà l'articolo 8 dello Statuto Organico del Servizio Pubblico di Procura per richiedere che venga indagato sui crimini che X, Meta e TikTok potrebbero commettere attraverso la creazione e la diffusione di pornografia minorile mediante le loro IA."

Pedro ha aggiunto che: "Queste piattaforme stanno attaccando la salute mentale, la dignità e i diritti dei nostri figli e figlie. Lo Stato non può permetterlo. L'impunità dei giganti deve finire."

Due settimane prima di questa richiesta legale, Pedro aveva condiviso nuovi piani per affrontare l'abuso online in Spagna, promettendo che avrebbe bloccato l'accesso ai social media per chiunque abbia meno di 16 anni.

Nel novembre, Pedro ha dichiarato che il parlamento spagnolo avrebbe indagato su Meta per possibili violazioni della privacy che interessano gli utenti di Facebook e Instagram.

I dati della Internet Watch Foundation, con sede in Gran Bretagna, mostrano quanto rapidamente il problema stia crescendo. Lo scorso anno, ha segnalato 3.440 video di abuso sessuale minorile generati dall'IA. L'anno prima, ne aveva riportati solo 13.

L'Europa continua a stringere l'applicazione della legge contro le grandi aziende tecnologiche

L'azione della Spagna si aggiunge alla crescente tensione tra i governi europei e le grandi aziende tecnologiche americane. Quelle aziende hanno il sostegno dell'amministrazione di Donald Trump, il 47° Presidente degli Stati Uniti, eletto nel 2024 e in carica nel 2026.

I leader europei sostengono che le piattaforme devono proteggere gli utenti. I politici statunitensi e i dirigenti tecnologici sostengono che una regolamentazione rigorosa rischia di limitare la libertà di espressione. Il disaccordo si sta ora svolgendo nei tribunali e nelle agenzie di regolamentazione.

A dicembre, l'Unione Europea ha multato X per 120 milioni di euro, circa 140 milioni di dollari, ai sensi del Digital Services Act. È stata la prima sanzione emessa ai sensi di quella legge. Questo mese, la polizia francese ha perquisito gli uffici locali di X nell'ambito di un'indagine per reati informatici sulla diffusione di pornografia minorile e negazione dell'Olocausto sulla piattaforma.

La Commissione per la Protezione dei Dati dell'Irlanda è ora intervenuta anche lei. L'autorità di regolamentazione, che applica il Regolamento Generale sulla Protezione dei Dati dell'Unione Europea, ha dichiarato lunedì sera di aver aperto un'indagine formale sulla creazione e la pubblicazione di ciò che ha definito immagini sessualizzate "potenzialmente dannose" realizzate da Grok.

La preoccupazione è che queste immagini possano aver coinvolto l'elaborazione di dati personali appartenenti a utenti nell'UE.

Grok è integrato direttamente nel feed dei social media su X. È stato sviluppato dall'azienda di IA di Elon Musk, xAI, che ha acquistato X lo scorso anno. All'inizio di questo mese, xAI si è fusa con l'azienda di razzi di Musk, SpaceX. L'accordo ha creato un gruppo combinato valutato 1,5 trilioni di dollari.

L'indagine irlandese è l'ultima azione intrapresa dai regolatori in tutto il mondo contro X. All'inizio di gennaio, migliaia di immagini deepfake sessualizzate di donne sono state generate utilizzando Grok. Le immagini si sono diffuse rapidamente online. La reazione è stata immediata. Utenti, esperti di sicurezza online e politici hanno reagito con forza.

Graham Doyle, il commissario aggiunto presso l'autorità di regolamentazione irlandese, ha dichiarato che l'agenzia era già stata in contatto con X dopo che le prime notizie sui media erano apparse settimane fa. Ha detto che quelle notizie lamentavano che gli utenti potevano istruire l'account @Grok su X a generare immagini sessualizzate di persone reali, inclusi bambini.