Il governo coreano indagherà su Grok per le immagini deepfake

Il governo coreano sta valutando l'adozione di misure normative contro il chatbot di intelligenza artificiale (IA) generativa di xAI, di proprietà di Elon Musk, Grok. L'iniziativa fa seguito alle numerose critiche rivolte al chatbot e al suo coinvolgimento nella generazione e distribuzione di immagini deepfake a sfondo sessuale.

La notizia è stata riportata da un'agenzia di stampa locale, l'Electronictron, che ha menzionato che la Commissione per la protezione delle informazioni personali (PIPC) ha avviato un'indagine preliminare su Grok dopo che le accuse sono state segnalate nella contea da diverse persone.

La procedura preliminare serve a confermare se la violazione si è effettivamente verificata e se la questione rientra nella sua giurisdizione prima che possa essere avviata un'indagine formale.

Il governo coreano condurrà una revisione di Grok

Secondo quanto riportato, la revisione segue diverse segnalazioni emerse a livello locale e all'estero, che accusano Grok di essere stato utilizzato per creare immagini deepfake esplicite e non consensuali, la maggior parte delle quali coinvolgono individui reali e minori.

Con questo, il PICP determinerà la sua prossima linea d'azione dopo aver esaminato la spiegazione fornita da Grok e altri documenti a supporto. L'agenzia dovrebbe anche esaminare le tendenze normative globali, che influenzeranno il suo processo decisionale.

Ai sensi del Personal Information Protection Act, l'alterazione o la generazione di immagini sessuali di individuidentsenza consenso può costituire un trattamento illecito dei dati personali.

I chatbot basati sull'intelligenza artificiale, integrati nella piattaforma social X e che offrono la generazione sia di testo che di immagini, sono stati oggetto di numerose critiche a partire dallo scorso anno per la creazione di immagini false di persone reali. Il chatbot è stato utilizzato per creare ogni sorta di immagini compromettenti, disapprovate dal grande pubblico.

Secondo l'organizzazione non governativa globale Center for Countering Digital Hate, si stima che Grok sia stato utilizzato per generare più di tre milioni di immagini sessualmente esplicite tra il 29 dicembre 2025 e l'8 gennaio 2026.

L'organizzazione sostiene che, tra queste, oltre 23.000 immagini di minori generate tramite il chatbot. Il centro ha avvertito che la rapida diffusione delle immagini generate dall'intelligenza artificiale di Grok ha portato a una circolazione su larga scala di contenuti espliciti online.

L'autorità di regolamentazione vuole un rapporto sulle misure adottate per arginare la minaccia

Il centro ha anche messo in guardia sui gravi rischi per la sicurezza che questo sviluppo comporta per i bambini. A causa di questa minaccia, paesi come Stati Uniti, Regno Unito, Francia, Canada e altri hanno avviato indagini, mentre paesi come Indonesia, Filippine e Malesia hanno bloccato l'accesso a Grok.

In risposta alla controversia, xAI ha annunciato all'inizio di quest'anno di aver implementato alcune misure tecniche per prevenirla.

La piattaforma ha affermato di aver impedito sia agli utenti gratuiti che a quelli a pagamento di modificare o generare immagini di persone reali, aggiungendo che avrebbe annunciato ulteriori misure di sicurezza molto presto.

In Corea, il 14 gennaio la Commissione per i media e le comunicazioni (KMCC) ha chiesto a X misuretronsevere per la tutela dei minori. L'autorità di regolamentazione coreana ha comunicato alla piattaforma di social media che la sua azienda di intelligenza artificiale deve elaborare un piano per impedire la generazione di contenuti illegali o dannosi.

Inoltre, l'autorità di regolamentazione ha aggiunto che l'azienda deve limitare l'accesso dei minori a tali contenuti.

Attualmente, X ha un responsabile della tutela dei minori designato in Corea, in conformità con la legge, e presenta relazioni annuali sulla relativa conformità. KMCC ha sollecitato la piattaforma a presentare ulteriore documentazione relativa al protocollo di sicurezza di Grok, sottolineando che le immagini sessuali non consensuali create e distribuite sulla sua piattaforma, in particolare quelle che coinvolgono minori, costituiscono un reato in Corea.

La commissione ha fissato un termine di due settimane. Se X non risponde o ignora la richiesta, potrà imporre una sanzione amministrativa fino a 10 milioni di won (6.870 dollari). La stessa iniziativa è stata osservata in altri Paesi, dove xAI è stata incaricata di elaborare misure per frenare l'aumento della minaccia.

Come la Corea, anche i paesi hanno annunciato multe sostanziose se l'azienda non elabora e presenta un rapporto che indichi le misure adottate per limitare l'aumento della minaccia.