Gli esperti hanno lanciato l'allarme sulle immagini di insulti razzisti di Grok AI sulla piattaforma X

Gli esperti hanno espresso preoccupazione e lanciato l'allarme in merito alle immagini di insulti razzisti create dall'intelligenza artificiale Grok di X, che hanno invaso la piattaforma a dicembre.

Secondo Signify, un'organizzazione che collabora con importanti gruppi e club sportivi per trace segnalare episodi di odio online, ci sarà un aumento delle immagini su Internet e sulla piattaforma, soprattutto a breve.

Immagini di abusi hanno inondato X dopo l'aggiornamento di Grok

Secondo il Guardian, sono state segnalate diverse immagini razziste create dall'IA di Grok in seguito al suo aggiornamento, tra cui immagini fotorealistiche di calciatori e allenatori. Tra queste, una mostra un giocatore di colore che raccoglie cotone, mentre un'altra raffigura un giocatore che mangia banane circondato da scimmie.

Altre immagini mostrano altri giocatori e allenatori che incontrano e chiacchierano con personaggi storici controversi come Osama Bin Laden, Adolf Hitler e Saddam Hussein.

Signify ha notato con preoccupazione l'improvviso aumento di immagini generate al computer, create utilizzando l'intelligenza artificiale Grok, che hanno invaso la piattaforma X. L'organizzazione è anche preoccupata per questa tendenza e ritiene che un numero maggiore di tali immagini sarà probabilmente visualizzato sui social media, poiché l'introduzione dell'intelligenza artificiale fotorealistica renderà più semplice e aumenterà la diffusione di tali immagini.

"È un problema attuale, ma è solo l'inizio di un problema futuro. La situazione peggiorerà notevolmente e siamo solo all'inizio. Prevedo che nei prossimi 12 mesi diventerà incredibilmente grave"

Significare.

Lo strumento di intelligenza artificiale generativa di X è stato lanciato nel 2023 da Elon Musk. Di recente ha aggiunto una nuova funzionalità di conversione da testo a immagine, nota come Aurora, che crea immagini AI fotorealistiche basate su semplici suggerimenti degli utenti.

In precedenza, una versione meno avanzata, nota come Flux, aveva suscitato polemiche all'inizio di quest'anno, poiché si era scoperto che compiva azioni che molti altri software simili non avrebbero fatto, secondo The Guardian. Tra queste, la rappresentazione di personaggi protetti da copyright e personaggi pubblici in posizioni compromettenti, l'assunzione di droghe o la commissione di atti di violenza.

X si è trasformata in una piattaforma di odio

Callum Hood, responsabile della ricerca del Center for Countering Digital Hate (CCDH), ha accusato la piattaforma X di essere una piattaforma che fomenta l'odio. Hood ha affermato che X è diventata una piattaforma che incentiva e premia la diffusione dell'odio attraverso la condivisione dei ricavi, e l'intelligenza artificiale ha reso tutto più facile che mai.

"Ciò che X ha fatto, in una misura che nessun'altra piattaforma mainstream ha fatto, è offrire incentivi cash agli account che lo fanno, quindi gli account su X pubblicano deliberatamente l'odio e la disinformazione più evidenti possibili."

Cappuccio.

Gli esperti hanno espresso preoccupazione per la relativa mancanza di restrizioni su ciò che gli utenti possono chiedere all'IA generativa di produrre con tale facilità, consentendo a Grok di aggirare le linee guida dell'IA tramite il "jailbreaking"

Un rapporto del CCDH mostra che, quando gli venivano forniti diversi messaggi di odio, il modello di intelligenza artificiale ne creava il 90%, il 30% dei quali senza alcuna reazione. Un altro 50% veniva creato dopo un jailbreak.

La Premier League ha ammesso di essere a conoscenza delle immagini dei calciatori. Ha affermato di aver assegnato un team dedicato per aiutare a individuare e segnalare abusi razzisti nei confronti degli atleti, il che, a suo dire, potrebbe portare ad azioni legali.

Ciò avviene mentre l'amministrazione del calcio ha rivelato di aver ricevuto oltre 1.500 segnalazioni di abusi nel 2024 e che sono stati introdotti filtri che i giocatori possono utilizzare sugli account dei social media per contribuire a bloccare grandi quantità di abusi.

"La discriminazione non ha posto nel nostro sport o nella società in generale. Continuiamo a sollecitare le aziende di social media e le autorità competenti a contrastare gli abusi online e ad adottare misure contro i trasgressori di questo comportamento inaccettabile", ha dichiarato un portavoce della FA.