Il governo indiano chiede a X di correggere Grok per contenuti AI osceni

Il governo indiano ha ordinato alla piattaforma di blogging di proprietà di Elon Musk, X, di apportare modifiche al suo chatbot AI Grok a causa di contenuti AI osceni. Il paese vuole che la piattaforma apporti modifiche tecniche e procedurali immediate al chatbot dopo che utenti e legislatori hanno segnalato diversi casi di contenuti osceni.

Secondo il paese, i casi dell'uso dell'chatbot per creare queste immagini oscene, incluse immagini alterate dall'AI di donne create utilizzando lo strumento. L'ordine è stato emesso venerdì dal ministero IT dell'India, chiedendo alla piattaforma di intraprendere azioni correttive riguardanti Grok, tra cui la restrizione della generazione di contenuti che coinvolgono "nudità, sessualizzazione, materiale sessualmente esplicito o altrimenti illegale". Il ministero ha anche dato alla piattaforma un ultimatum di 72 ore per effettuare le modifiche.

Il governo indiano ordina a X di apportare modifiche tecniche a Grok

Come parte dei suoi obblighi nell'ultimatum di 72 ore, il ministero ha anche chiesto a X di presentare un rapporto sulle azioni intraprese che dettagli i passaggi compiuti per prevenire l'hosting o la diffusione di contenuti indecenti. Questi contenuti includono "osceni, pornografici, volgari, indecenti, sessualmente espliciti, pedofili o altrimenti proibiti dalla legge". L'ordine ha avvertito che se la piattaforma non eseguirà i passaggi obbligatori, potrebbe mettere a rischio le sue protezioni di "safe harbor".

L'ordine dell'India arriva in mezzo alle preoccupazioni sollevate dagli utenti che hanno condiviso esempi di Grok che viene istruito a modificare le immagini di individui, principalmente donne, per farle apparire come se indossassero bikini. La questione è stata innescata da una denuncia formale, presentata dalla parlamentare indiana Priyanka Chaturvedi. Chaturvedi ha avvertito tutte le grandi aziende con chatbot AI, aggiungendo che devono essere messi in atto dei guardrail per controllare funzionalità come Grok in modo che il chatbot non violi la dignità umana.

Separatamente, gli utenti hanno anche segnalato diversi incidenti in cui il chatbot AI è stato utilizzato per generare immagini sessualizzate che coinvolgono minori, una questione che X ha riconosciuto venerdì. La piattaforma ha affermato che è stata causata da alcune lacune nelle salvaguardie prima di procedere rapidamente a rimuovere le immagini generate. La piattaforma ha anche esortato gli utenti a segnalare formalmente all'Federal Bureau of Investigation (FBI) o alla CyberTipline della NCMEC, notando che X è impegnata a prevenire tali problemi.

X potrebbe affrontare problemi legali per mancata conformità

Secondo gli utenti, le immagini indecenti di donne generate utilizzando il chatbot sono rimaste sulla piattaforma. L'ultimo ordine arriva dopo che il ministero IT indiano ha emesso un avviso alle piattaforme di social media, ricordando loro che la conformità alle leggi locali che regolano i contenuti osceni e sessualmente espliciti è un prerequisito per mantenere l'immunità legale dalla responsabilità per i materiali generati dagli utenti. Il paese ha esortato le aziende a migliorare i guardrail e ha avvertito che il mancato rispetto potrebbe attirare azioni legali.

"Si ribadisce che la mancata conformità ai requisiti sopra indicati sarà vista seriamente e potrebbe comportare severe conseguenze legali contro la tua piattaforma, i suoi responsabili e gli utenti della piattaforma che violano la legge, senza ulteriore preavviso", ha avvertito l'ordine. Il governo indiano ha anche avvertito X che se non ottempererà alla sua direttiva, il paese ha il potere di avviare un'azione legale contro la piattaforma ai sensi della legge IT indiana e delle norme penali.

L'India è emersa come uno dei mercati digitali più grandi, con il paese visto come un caso di test critico su quanto lontano i governi siano disposti a spingersi per tenere le piattaforme responsabili per i contenuti generati dall'AI. Se l'applicazione verrà rafforzata nel paese, potrebbe avere un effetto a cascata per le aziende tecnologiche globali che operano in altre giurisdizioni. L'ordine arriva anche mentre X continua a sfidare le regole di regolamentazione dei contenuti dell'India in tribunale.

La piattaforma sostiene che i poteri federali di rimozione rischiano un'eccessiva estensione, anche se la piattaforma ha aderito alla maggior parte delle direttive di blocco presentate dal paese. Allo stesso tempo, Grok è stato utile per gli utenti su X, con la maggior parte degli utenti che utilizza la piattaforma per il fact-checking in tempo reale e i commenti sugli eventi globali, rendendo il suo output più visibile e politicamente sensibile rispetto a quello degli strumenti AI standalone.