L'UE apre un'indagine su Grok di Musk dopo 3 milioni di deepfake in pochi giorni

La Commissione Europea ha avviato procedimenti formali contro la piattaforma social di Elon Musk X dopo che il suo chatbot di intelligenza artificiale Grok è stato trovato a produrre immagini sessuali di persone reali senza il loro consenso, incluse foto di bambini.

Le persone che usano X stanno creando versioni alterate dall'IA di fotografie reali chiedendo a Grok di generarle. Uno studio pubblicato la scorsa settimana dal Centre for Countering Digital Hate ha trovato che Grok ha creato circa tre milioni di immagini deepfake di donne e bambini in pochi giorni.

La controversia ha sollecitato chiamate per indagini in diversi paesi. In Irlanda, diversi ministri del governo hanno chiuso i loro account X in risposta.

Regina Doherty, membro del Parlamento Europeo per Fine Gael, ha confermato la mossa della Commissione contro l'azienda in una dichiarazione rilasciata questa mattina. Ha dichiarato di sostenere la decisione di avviare un'indagine formale.

"Quando emergono rapporti credibili sull'uso di sistemi di IA in modi che danneggiano donne e bambini, è essenziale che la legge dell'UE sia esaminata e applicata senza indugio", ha detto Doherty.

Ha aggiunto che il caso solleva gravi preoccupazioni sul fatto che le piattaforme stiano seguendo le loro responsabilità legali di verificare i rischi e impedire la diffusione di materiale illegale e dannoso.

Doherty ha sottolineato che l'indagine deve portare a conseguenze concrete.

"Nessuna azienda che opera nell'UE è al di sopra della legge", ha affermato.

Ha anche sottolineato che la situazione mostra problemi più ampi nel modo in cui la nuova tecnologia IA viene regolamentata e monitorata, chiedendo che vengano intrapresi ulteriori passi a livello UE.

"Questo caso sottolinea perché l'AI Act deve rimanere una legislazione viva. Se emergono lacune nell'applicazione o nel controllo, allora è nostra responsabilità affrontarle. Le leggi dell'UE devono essere applicabili in tempo reale quando si verificano danni gravi", ha detto Doherty.

Indagine ritardata a causa della crisi della Groenlandia

According to German news source Handelsblatt, the Commission had planned to start the proceedings under the EU’s Digital Services Act last Monday, but the decision was pushed back as the bloc dealt with US President Donald Trump’s threats to take over Greenland.

Questa non è la prima volta che X affronta problemi con i regolatori dell'UE. Nel dicembre 2025, la piattaforma ha ricevuto una multa di 120 milioni di euro dall'UE per aver violato il Digital Services Act. Le violazioni includevano spunte blu fuorvianti, mancanza di trasparenza sulla pubblicità e impedimento ai ricercatori di accedere alla piattaforma.

Funzionari dell'amministrazione Trump hanno espresso parole forti su quella multa. Il Segretario di Stato Marco Rubio e il Vicepresidente JD Vance l'hanno criticata pesantemente, definendola un attacco alle piattaforme tecnologiche americane.

Focus sulla valutazione del rischio e sulla moderazione dei contenuti

L'ultima indagine si concentra specificamente sul fatto che X abbia valutato correttamente i rischi del suo chatbot IA e abbia intrapreso misure sufficienti per prevenire la creazione e la diffusione di contenuti dannosi. Il Digital Services Act richiede alle grandi piattaforme online di identificare e affrontare i rischi relativi a contenuti illegali e danni agli utenti.

La rapida produzione di un tale volume di immagini inappropriate in un periodo di tempo così breve ha fatto scattare le campane d'allarme tra gli attivisti per la sicurezza digitale e i legislatori.

La situazione è diventata un caso di prova per capire come i regolamenti dell'UE gestiranno le tecnologie emergenti di intelligenza artificiale. Sebbene l'AI Act sia stato approvato per governare i sistemi di intelligenza artificiale, questo caso è stato intrapreso ai sensi del Digital Services Act, che copre le responsabilità delle piattaforme online.

L'indagine potrebbe portare a ulteriori multe o requisiti per X di modificare il funzionamento di Grok. La Commissione ha il potere di imporre sanzioni fino al sei percento del fatturato annuo globale di un'azienda per gravi violazioni del Digital Services Act.

X non ha ancora commentato pubblicamente la nuova indagine. Il modo in cui l'azienda gestirà la situazione sarà attentamente osservato mentre altri paesi valutano le proprie risposte normative. Diverse nazioni hanno già richiesto un'azione urgente per affrontare la capacità del chatbot di creare immagini inappropriate.