L'X di Musk potrebbe essere bandito in Gran Bretagna per presunte immagini inappropriate generate da Grok

Elon Musk sta affrontando un potenziale bando dell'app X in Gran Bretagna per presunte immagini inappropriate apparse online sul dark web, con utenti che sostengono di essere state generate dal chatbot AI Grok. L'organo di vigilanza internet del Regno Unito, Ofcom, è stato invitato a valutare tutte le opzioni, incluse multe che ammontano a miliardi o persino il blocco dell'accesso all'app X. 

La fondazione di beneficenza Internet Watch Foundation (IWF) ha rivelato che i suoi analisti avevano scoperto immagini di ragazze di età compresa tra 11 e 13 anni, che sembravano essere state generate da Grok su un sito web del dark web. Secondo il regolatore dei media Office of Communications (Ofcom), le immagini costituivano materiale illegale di abuso sessuale minorile. 

Kier Starmer esorta Ofcom a mettere tutte le opzioni sul tavolo

Il Primo Ministro del Regno Unito Kier Starmer ha chiesto all'Office of Communications (Ofcom), l'organo di vigilanza internet del Regno Unito, di valutare tutte le opzioni mentre prende in considerazione il caso di Musk dopo che l'app Grok di xAI avrebbe presumibilmente generato immagini criminali di giovani donne e bambini. Secondo un rapporto del Telegraph, l'Online Safety Act del Regno Unito consente al paese di multare l'app X per miliardi o persino di bloccare l'accesso a X in Gran Bretagna. 

L'app X ha oltre 650 milioni di utenti in tutto il mondo, di cui almeno 20 milioni dal Regno Unito. Il Primo Ministro Starmer ha avvertito su Greatest Hits Radio che X dovrebbe mettere in ordine la propria situazione e rimuovere il materiale, aggiungendo che verranno prese misure contro l'app di Musk perché è semplicemente intollerabile. Ha avvertito dopo che sono apparse multiple immagini di donne e bambini svestiti con altri in costume da bagno, e presumibilmente generate dal Grok chatbot AI. 

“X deve prendere il controllo di questa situazione, e Ofcom ha il nostro pieno sostegno per intraprendere azioni in relazione a ciò. Questo è sbagliato. È illegale. Non lo tollereremo. Ho chiesto che tutte le opzioni siano sul tavolo.”

-Kier Starmer, Primo Ministro del Regno Unito 

Finora, si prevede che il regolatore seguirà il dovuto processo legale prima di applicare il bando, incluse indagini e sentenze provvisorie. Se X non risolve le preoccupazioni di Ofcom, il regolatore potrebbe cercare di bloccare il sito dal Regno Unito. Ofcom ha già contattato la piattaforma social questa settimana, notando che potrebbe lanciare un'indagine sulle immagini. 

Musk crede che l'intento dell'OSA sia la soppressione del popolo

Musk ha precedentemente criticato Online Safety Act (OSA) del Regno Unito, sostenendo che il suo intento sia la soppressione del popolo. Secondo Musk, l'OSA del Regno Unito rischia di violare la libertà di espressione attraverso le sue misure per proteggere i bambini dai contenuti dannosi. Musk ha notato che le intenzioni 'laudabili' dell'atto includevano un'implementazione aggressiva attraverso Ofcom.

Alexander Ngaire, Capo della Hotline presso la fondazione Internet Watch Foundation, ha BBC che strumenti come Grok rischiavano di portare immagini AI sessuali per i bambini nei media mainstream. Ha classificato il materiale come Categoria C ai sensi della legge del Regno Unito, la categoria più bassa per scopi criminali. Ha aggiunto che l'utente che ha caricato le immagini aveva utilizzato un diverso strumento AI, non Grok, per creare un'immagine di Categoria A, considerata il materiale criminale più grave.  

Secondo Ngaire, l'IWF è preoccupata per la facilità e la velocità con cui le persone possono generare materiale di abuso sessuale minorile (CSAM) fotorealistico. La fondazione mira a rimuovere tale materiale da internet attraverso una hotline dove il CSAM sospetto viene segnalato, e i suoi analisti ne valutano la legalità e la gravità. Gli analisti dell'IWF hanno trovato che il materiale appariva solo sul dark web e non è stato trovato sulla piattaforma X. 

Secondo X, verranno prese misure contro i contenuti illegali sulla sua piattaforma, incluso il CSAM, rimuovendoli e sospendendo permanentemente gli account, nonché collaborando con governi locali e forze dell'ordine dove necessario. La piattaforma social avverte che chiunque richieda a Grok di creare contenuti illegali affronterà le stesse conseguenze di chi li avesse caricati.