Il primo ministro australiano critica X per l'uso di Grok per generare contenuti offensivi

Il primo ministro australiano Anthony Albanese ha criticato aspramente la piattaforma di blogging X per l'uso di Grok per generare immagini inappropriate. Albanese ha espresso la sua indignazione per le preoccupazioni relative all'uso del chatbot di intelligenza artificiale Grok per consentire la pubblicazione di contenuti a sfondo sessuale.

Sebbene il numero di segnalazioni ricevute dall'eSafety Office australiano rimanga limitato, si segnala un recente aumento delle segnalazioni didentrelativi all'uso del chatbot per creare immagini a sfondo sessuale o di sfruttamento. Nella sua dichiarazione, l'organismo di controllo ha avvertito che avrebbe utilizzato i suoi poteri, inclusi gli avvisi di rimozione, laddove i materiali generati con il chatbot raggiungessero la soglia definell'Australian Online Safety Act.

Secondo l'eSafety Office, la piattaforma, il suo chatbot e una vasta gamma di altri servizi sono soggetti agli obblighi di sicurezza per individuare e rimuovere materiale pedopornografico e altro materiale illegale, in conformità con il codice e gli standard di settore australiani, leader a livello mondiale. Il Primo Ministro australiano ha espresso il suo disappunto sabato, unendosi ad altri leader, tra cui il suo omologo britannico Keir Starmer, nel criticare la piattaforma di social media.

Il primo ministro australiano critica X per l'uso improprio di Grok

"L'uso dell'intelligenza artificiale generativa per sfruttare o sessualizzare le persone senza il loro consenso è aberrante", ha dichiarato ai giornalisti a Canberra. "Il fatto che questo strumento sia stato utilizzato in modo che le persone ne sfruttassero la funzione di creazione di immagini tramite Grok è, a mio avviso, assolutamente aberrante", ha aggiunto che l'incidentedent un altro esempio di come i social media non mostrino responsabilità sociale e che gli australiani e la popolazione mondiale meritano di meglio.

Le loro critiche non sono inverosimili e si inseriscono nella reazione globale al chatbot Grok di questa settimana, che ha spinto X a limitare l'uso della sua intelligenza artificiale per creare o modificare immagini, limitando lo strumento agli abbonati a pagamento. Venerdì, Grok ha respinto la richiesta di immagini modificate digitalmente da parte di utenti non abbonati. "La generazione e la modifica delle immagini sono attualmente riservate agli abbonati a pagamento. È possibile abbonarsi per sbloccare queste funzionalità", ha affermato il chatbot.

Nella dichiarazione rilasciata da un portavoce dell'Ufficio eSafety, la maggior parte dei reclami ricevuti riguardava la manipolazione di immagini di adulti, mentre una piccola percentuale riguardava materiale potenzialmente pedopornografico. "Le segnalazioni di abusi basati sulle immagini sono pervenute molto di recente e sono ancora in fase di valutazione", ha affermato l'agenzia. "Per quanto riguarda le segnalazioni di contenuti illegali e soggetti a restrizioni, il materiale non ha raggiunto la soglia di classificazione per materiale pedopornografico di classe 1"

Di conseguenza, l'eSafety Office ha dichiarato di essersi rifiutato di emettere avvisi di rimozione o di intraprendere azioni esecutive in merito a tali reclami. Tuttavia, il portavoce ha affermato che persistono preoccupazioni circa l'aumento dell'uso dell'IA per lo sfruttamento minorile. "Ciò evidenzia l'importanza della sicurezza fin dalla progettazione, inclusa la necessità che i prodotti di IA generativa dispongano di adeguate misure di sicurezza e di protezione integrate in ogni fase del ciclo di vita del prodotto, per prevenire l'uso improprio e la trasformazione in arma di queste tecnologie prima che si verifichino danni", hanno affermato.

L'Indonesia bandisce temporaneamente Grok per deepfake

D'altro canto, l'Indonesia ha intrapreso decisive contro il chatbot Grok. Il Ministero delle Comunicazioni e degli Affari Digitali ha annunciato la decisione sabato, citando l'urgente necessità di proteggere bambini e donne dai danni dei contenuti espliciti generati dall'intelligenza artificiale. "Il governo considera i deepfake sessuali non consensuali una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale", ha dichiarato il Ministro Meutya Hafid in un comunicato ufficiale.

Ha affermato che l'uso improprio dell'intelligenza artificiale per creare pornografia falsa equivale a una forma di violenza digitale. Nel frattempo, l'Indonesia chiede alle piattaforme digitali del Paese di dimostrare di aver implementato misure di sicurezza per impedire la generazione e la distribuzione di contenuti proibiti. Nell'ambito di questa azione di contrasto, il Ministero ha convocato X (ex Twitter). L'azienda fornirà chiarimenti, spiegando le misure adottate per arginare la diffusione di questa minaccia.