Il governo indiano chiede a X di correggere Grok per i contenuti osceni dell'IA

Il governo indiano ha ordinato alla piattaforma di blogging X, di proprietà di Elon Musk, di apportare modifiche al suo chatbot di intelligenza artificiale Grok a causa di contenuti osceni. Il Paese chiede alla piattaforma di apportare immediate modifiche tecniche e procedurali al chatbot dopo che utenti e legislatori hanno segnalato diversi casi di contenuti osceni.

Secondo quanto riportato dal Paese, si tratterebbe di casi in cui il chatbot verrebbe utilizzato per creare immagini oscene, incluse immagini di donne modificate dall'intelligenza artificiale tramite lo strumento. L'ordine è stato emesso venerdì dal Ministero dell'Informatica indiano, che chiede alla piattaforma di adottare misure correttive nei confronti di Grok, tra cui la limitazione della generazione di contenuti che coinvolgono "nudità, sessualizzazione, materiale sessualmente esplicito o altrimenti illegale". Il Ministero ha inoltre concesso alla piattaforma un ultimatum di 72 ore per attuare le modifiche.

Il governo indiano ordina a X di apportare modifiche tecniche a Grok

Come parte dei suoi obiettivi nell'ultimatum di 72 ore, il Ministero ha anche chiesto a X di presentare un rapporto sulle azioni intraprese che descriva nel dettaglio le misure adottate per impedire l'hosting o la diffusione di contenuti indecenti. Questi contenuti includono "osceni, pornografici, volgari, indecenti, sessualmente espliciti, pedofili o altrimenti proibiti dalla legge". L'ordinanza ha avvertito che se la piattaforma non avesse rispettato i passaggi obbligatori, avrebbe potuto compromettere le sue protezioni "safe harbor".

L'ordinanza indiana giunge in seguito alle preoccupazioni sollevate dagli utenti che hanno condiviso esempi di Grok, il quale veniva indotto a modificare le immagini di persone, principalmente donne, per farle apparire in bikini. La questione è stata sollevata da una denuncia formale presentata dalla parlamentare indiana Priyanka Chaturvedi. Chaturvedi ha ammonito tutte le grandi aziende che utilizzano chatbot basati sull'intelligenza artificiale, aggiungendo che è necessario predisporre dei meccanismi di controllo per verificare che funzionalità come Grok non violino la dignità umana.

Separatamente, gli utenti hanno anche segnalato diversidentin cui il chatbot basato sull'intelligenza artificiale è stato utilizzato per generare immagini a sfondo sessuale che coinvolgono minori, un problema che X ha riconosciuto venerdì. La piattaforma ha affermato che il problema era causato da alcune carenze nelle misure di sicurezza, prima di agire rapidamente per rimuovere le immagini generate. La piattaforma ha inoltre esortato gli utenti a segnalare formalmente il problema al Federal Bureau of Investigation (FBI) o alla CyberTipline dell'NCMEC, sottolineando che X si impegna a prevenire tali problemi.

X potrebbe dover affrontare problemi legali per non conformità

Secondo gli utenti, sulla piattaforma sono rimaste immagini indecenti di donne generate tramite il chatbot. L'ultimo ordine arriva dopo che il Ministero dell'Informazione e della Tecnologia indiano ha emesso un avviso alle piattaforme di social media, ricordando loro che il rispetto delle leggi locali che regolano i contenuti osceni e sessualmente espliciti è un prerequisito per mantenere l'immunità legale dalla responsabilità per i materiali generati dagli utenti. Il Paese ha esortato le aziende a migliorare le misure di sicurezza e ha avvertito che il mancato rispetto di tali misure potrebbe comportare azioni legali.

"Si ribadisce che il mancato rispetto dei requisiti di cui sopra sarà considerato seriamente e potrà comportare severe conseguenze legali nei confronti della piattaforma, dei suoi funzionari responsabili e degli utenti della piattaforma che violano la legge, senza ulteriore preavviso", si legge nell'ordinanza. Il governo indiano ha inoltre avvertito X che, in caso di mancato rispetto della direttiva, il Paese avrà il potere di avviare un'azione legale contro la piattaforma ai sensi della legge indiana in materia di tecnologia dell'informazione e delle leggi penali.

L'India si è affermata come uno dei maggiori mercati digitali, e il Paese è considerato un banco di prova cruciale per valutare fino a che punto i governi siano disposti a spingersi per ritenere le piattaforme responsabili dei contenuti generati dall'intelligenza artificiale. Un'applicazione più severa della normativa nel Paese potrebbe avere un effetto ripple per le aziende tecnologiche globali che operano in altre giurisdizioni. L'ordinanza giunge anche mentre X continua a contestare in tribunale le norme indiane sulla regolamentazione dei contenuti.

La piattaforma sostiene che i poteri di rimozione del governo federale rischiano di essere eccessivi, nonostante la piattaforma abbia rispettato la maggior parte delle direttive di blocco emanate dal Paese. Allo stesso tempo, Grok si è rivelata utile per gli utenti di X, la maggior parte dei quali utilizza la piattaforma per il fact-checking in tempo reale e per commenti sugli eventi globali, rendendo i suoi risultati più visibili e politicamente più sensibili rispetto a quelli di strumenti di intelligenza artificiale autonomi.