Il Primo Ministro australiano condanna X per l’uso di Grok per generare contenuti offensivi

Il Primo Ministro australiano Anthony Albanese ha duramente criticato la piattaforma di blogging X per l’uso di Grok per generare immagini inappropriati. Albanese ha espresso la sua indignazione riguardo alle preoccupazioni sull’uso del chatbot di intelligenza artificiale Grok per consentire la creazione di contenuti sessuali sfruttatori.

Sebbene il numero di segnalazioni ricevute dall’Ufficio eSafety australiano rimanga contenuto, si segnala un recente aumento delle segnalazioni relative all’uso del chatbot per creare immagini sessualizzate o sfruttatrici. Nel suo comunicato, l’autorità di vigilanza ha avvertito che farà uso dei suoi poteri, inclusi gli ordini di rimozione, laddove i materiali generati con il chatbot raggiungano la soglia definita nell’Australian Online Safety Act.

Secondo l'Ufficio eSafety, la piattaforma, il suo chatbot e una vasta gamma di altri servizi sono inoltre soggetti agli obblighi di sicurezza per rilevare e rimuovere materiali di sfruttamento sessuale minorile e altri materiali illeciti come parte del codice e degli standard industriali all'avanguardia in Australia. Il Primo Ministro australiano ha fatto sapere il suo disappunto sabato, unendosi ad altri leader mondiali, tra cui il suo omologo britannico Keir Starmer, nel criticare la piattaforma di social media.

Il Primo Ministro australiano condanna X per l’uso improprio di Grok

“L'uso dell'IA generativa per sfruttare o sessualizzare le persone senza il loro consenso è ripugnante”, ha detto ai giornalisti a Canberra. “Il fatto che questo strumento sia stato utilizzato in modo che le persone usassero la sua funzione di creazione di immagini attraverso Grok è, penso, completamente ripugnante”, ha aggiunto Albanese che l'incidente è un altro esempio di social media che non mostra responsabilità sociale, notando che gli australiani e la popolazione globale meritano di meglio.

Le loro critiche non sono infondate e fanno parte di una reazione globale negativa verso il chatbot Grok questa settimana, che ha spinto X a limitare l’uso della sua IA per creare o modificare immagini, restringendo l’accesso allo strumento agli abbonati a pagamento. Venerdì, Grok rifiutava le richieste degli utenti non abbonati che chiedevano immagini modificate digitalmente. “La generazione e la modifica delle immagini sono attualmente limitate agli abbonati a pagamento. Puoi abbonarti per sbloccare queste funzionalità”, ha risposto il chatbot.

Nel comunicato rilasciato da un portavoce dell’Ufficio eSafety, la maggior parte delle lamentele ricevute riguardava le preoccupazioni relative alla modifica di immagini di adulti, mentre una piccola percentuale coinvolgeva potenziali materiali di sfruttamento sessuale minorile. “Le segnalazioni relative agli abusi basati sulle immagini sono state ricevute molto di recente e sono ancora in fase di valutazione”, ha dichiarato l’agenzia. “Per quanto riguarda le segnalazioni relative a contenuti illeciti e limitati, i materiali non hanno raggiunto la soglia di classificazione per il materiale di sfruttamento sessuale minorile di classe 1.”

Di conseguenza, l’Ufficio eSafety ha dichiarato di aver rifiutato di emettere ordini di rimozione o di intraprendere azioni di enforcement relative a quelle lamentele. Tuttavia, il portavoce ha menzionato che le preoccupazioni riguardo all’aumento dell’uso dell’IA per commettere sfruttamento minorile persistono. “Ciò evidenzia l’importanza della ‘Sicurezza per Progettazione’, inclusa la necessità che i prodotti di IA generativa abbiano adeguate misure di salvaguardia e limiti integrati in ogni fase del ciclo di vita del prodotto, per prevenire l’uso improprio e la militarizzazione di queste tecnologie prima che si verifichino danni”, hanno affermato.

L’Indonesia vieta temporaneamente Grok a causa dei deepfake

D'altra parte, l'Indonesia ha preso azioni decisive contro il chatbot Grok. Il Ministero delle Comunicazioni e degli Affari Digitali ha annunciato la mossa sabato, citando la necessità urgente di proteggere bambini e donne dai danni dei contenuti espliciti generati dall'IA. “Il governo considera i deepfake sessuali non consensuali una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”, ha dichiarato la ministra Meutya Hafid in un comunicato ufficiale.

Ha affermato che l'uso improprio dell'IA per creare pornografia falsa costituisce una forma di violenza basata sul digitale. Nel frattempo, l'Indonesia vuole che le piattaforme digitali nel paese dimostrino di avere misure di salvaguardia in atto per prevenire la generazione e la distribuzione di contenuti proibiti. Come parte di questa applicazione, il Ministero ha convocato X (ex Twitter). L'azienda fornirà chiarimenti, spiegando le misure adottate per frenare la diffusione di questa piaga.