Gli esperti hanno avvertito delle immagini di abusi razzisti di Grok AI sulla piattaforma X

Gli esperti hanno espresso preoccupazione e avvertito delle immagini di abusi razzisti create dall'IA Grok di X che hanno inondato la piattaforma a dicembre.

Secondo Signify, un'organizzazione che lavora con gruppi e club sportivi prominenti per tracciare e segnalare l'odio online, ci sarà un'escalation delle immagini su internet e sulla piattaforma, in particolare a breve.

Le immagini di abusi hanno inondato X dopo l'aggiornamento di Grok

Secondo The Guardian, ci sono stati diversi rapporti di immagini razziste presumibilmente create da Grok AI dopo il suo aggiornamento, tra cui immagini razziste fotorealistiche di giocatori e manager di calcio. Tra le immagini, una mostra un giocatore nero che raccoglie cotone, mentre un'altra raffigura un giocatore che mangia banane e circondato da scimmie.

Altre immagini mostrano diversi altri giocatori e manager che si incontrano e chiacchierano con figure storiche controverse come Osama Bin Laden, Adolf Hitler e Saddam Hussein.

Signify ha notato con preoccupazione il improvviso aumento di immagini generate da computer create utilizzando Grok AI e inondate sulla piattaforma X. L'organizzazione è anche preoccupata per questa tendenza e crede che se ne vedranno altre di tali immagini sui social media poiché l'introduzione di AI fotorealistiche renderà più facile e aumenterà la prevalenza di tali immagini.

«È un problema ora, ma è davvero solo l'inizio di un problema in arrivo. Diventerà molto peggio e siamo solo all'inizio, mi aspetto che nei prossimi 12 mesi diventi incredibilmente serio».

Signify.

Lo strumento di AI generativa di X è stato lanciato nel 2023 da Elon Musk. Recentemente ha aggiunto una nuova funzione text-to-image nota come Aurora, che ha creato immagini AI fotorealistiche basate su semplici prompt degli utenti.

In precedenza, una versione meno avanzata nota come Flux ha anche suscitato controversie all'inizio di quest'anno poiché si è scoperto che faceva cose che molti altri software simili non avrebbero fatto, secondo The Guardian. Queste includevano la rappresentazione di personaggi con copyright e figure pubbliche in posizioni compromettenti, mentre assumevano droghe o commettevano atti di violenza.

X è diventato una piattaforma per l'odio

Il capo della ricerca del Center for Countering Digital Hate (CCDH), Callum Hood, ha accusato la piattaforma X di essere una piattaforma per l'odio. Hood ha detto che X era diventata una piattaforma che incentivava e ricompensava la diffusione dell'odio attraverso la condivisione dei ricavi, e le immagini AI lo rendevano più facile che mai.

«Ciò che X ha fatto, in una misura che nessun'altra piattaforma mainstream ha fatto, è offrire incentivi in denaro agli account per farlo, quindi gli account su X pubblicano deliberatamente il più possibile odio nudo e disinformazione».

Hood.

Gli esperti hanno espresso preoccupazione per la relativa mancanza di restrizioni su ciò che gli utenti possono chiedere all'IA generativa di produrre, con tale facilità che permette a Grok di aggirare le linee guida dell'IA tramite

Un rapporto di CCDH mostra che quando sono stati forniti diversi prompt odiosi, il modello AI ne ha creati il 90%, dei quali il 30% è stato creato senza opposizione. Ha anche creato un altro 50% dopo un jailbreak.

La Premier League ha ammesso di essere a conoscenza delle immagini dei giocatori di calcio. Hanno dichiarato di aver assegnato un team dedicato per aiutare a trovare e segnalare abusi razzisti verso gli atleti, cosa che, secondo loro, potrebbe portare ad azioni legali.

Questo arriva mentre l'amministrazione del calcio ha rivelato di aver ricevuto oltre 1.500 segnalazioni di abusi nel 2024 e che sono stati introdotti filtri per i giocatori da utilizzare sui social media per aiutare a bloccare grandi quantità di abusi.

«La discriminazione non ha alcun posto nel nostro sport o nella società in generale. Continuiamo a esortare le aziende di social media e le autorità competenti a contrastare gli abusi online e a intraprendere azioni contro i responsabili di questo comportamento inaccettabile», ha dichiarato un portavoce della FA.