Epic Games rimuoverà le immagini razziste generate dall'intelligenza artificiale su Fortnite

Epic Games ha intrapreso azioni decisive in risposta alle proteste dei giocatori, eliminando immagini razziste generate dall'IA e caricate dagli utenti di Fortnite, secondo quanto riportato da Kotaku. La popolarità di Fortnite è in parte dovuta alla sua caratteristica unica che permette agli utenti di creare e condividere le proprie mappe, favorendo un senso di creatività all'interno della comunità di giocatori. Tuttavia, questo sbocco creativo ha portato al caricamento di contenuti problematicimatic rendendo necessario un intervento.

Epic Games compie passi decisivi contro le immagini razziste generate dall'intelligenza artificiale

Di recente, i giocatori hanno scoperto mappe di isole all'interno di Fortnite con immagini generate dall'intelligenza artificiale che perpetuavano stereotipi razzisti. Tra gli esempi, mappe denominate "Zonewars arabe", "Zonewars nigeriane" e "Zonewars cinesi", con immagini di accompagnamento che rafforzavano stereotipi offensivi, come uomini mediorientali che impugnavano bombe e uomini di colore che mangiavano pollo fritto.

Sebbene la maggior parte di queste mappe avesse una popolazione di server relativamente ridotta, una mappa, "Jamaica Zonewars", vantava oltre 35.000 giocatori attivi all'inizio di questo mese. Epic Games ha risposto prontamente, rimuovendo molte di queste isole offensive e prendendo provvedimenti contro i creatori coinvolti.

L'azienda ha dichiarato: "Abbiamo già risolto il problema di oltre 100 isole con violazioni dei contenuti che utilizzano questo formato di miniatura simile e continueremo a farlo". Epic Games ha sottolineato che i contenuti discriminatori non hanno posto in Fortnite, violando le regole dell'azienda per la creazione di isole.

Gli utenti che violano queste linee guida rischiano di incorrere in ban permanenti dei propri account. La moderazione umana è un aspetto cruciale del controllo dei contenuti in Fortnite, con un team che esamina tutti i contenuti creati dagli utenti prima che vengano pubblicati. Epic Games sta lavorando attivamente per aggiornare le sue regole per la creazione di isole e i programmi di formazione per la moderazione, al fine di ridurre al minimo il rischio che le mappe che violano le regole raggiungano i giocatori.

Impegno alla moderazione e ai miglioramenti futuri

Nonostante la revisione pre-pubblicazione, il team di moderazione adotta un approccio misurato, incoraggiando i moderatori a dare per scontato le buone intenzioni dei creatori. Epic Games ha spiegato: "Chiediamo al nostro team di moderazione di dare per scontato le buone intenzioni dei creatori se non sono certi di una violazione dei contenuti, in modo da evitare una censura eccessiva"

Tuttavia, questo approccio porta a casi in cui vengono pubblicati contenuti inappropriati. In questi casi, l'azienda interviene rapidamente per rimuovere il materiale offensivo e fornisce ulteriore materiale formativo ai moderatori. I creatori che violano le regole sono soggetti a una serie di misure coercitive, tra cui il divieto permanente di pubblicazione e monetizzazione.

L'editore sta affrontando attivamente la questione aggiornando le regole per la creazione di isole e i programmi di formazione per la moderazione. In particolare, l'Epic Games Store ha abbracciato la tendenza dell'IA generativa a settembre, consentendo giochi e invii con elementi e grafica basati sull'IA. Questo cambiamento ha fatto seguito a un cambio di posizione da parte del rivale Steam, il marketplace di videogiochi per PC, che inizialmente si era opposto ai contenuti basati sull'IA, ma in seguito ha attenuato le sue regole a fronte di un aumento di tali invii.

Il fondatore e CEO di Epic Games, Tim Sweeney, ha sottolineato su Twitter che l'azienda non vieta i giochi che utilizzano nuove tecnologie. Questa dichiarazione ha coinciso con l'apertura completa all'autopubblicazione all'inizio dello stesso anno. Nonostante i continui sforzi degli sviluppatori di intelligenza artificiale per eliminare le immagini offensive dai loro modelli, gli utenti hanno trovato il modo di "eseguire il jailbreak" dei modelli utilizzando prompt specializzati.

In particolare, a ottobre, le immagini generate dall'IA raffiguranti personaggi come SpongeBob SquarePants e Kirby della Nintendo impegnati in azioni inappropriate hanno fatto il giro del web. Epic Games sta affrontando in modo proattivo il problema delle immagini razziste dall'IAin Fortnite, adottando misure per rimuovere i contenuti offensivi e applicando sanzioni per le violazioni delle regole.