Epic Games rimuoverà le immagini razziste generate dall'IA su Fortnite

Epic Games ha intrapreso azioni decisive in risposta alle proteste dei giocatori, eliminando le immagini generate da IA razziste caricate dagli utenti in Fortnite, secondo un report di Kotaku. La popolarità di Fortnite è in parte dovuta alla sua caratteristica unica che permette agli utenti di creare e condividere le loro mappe, favorendo un senso di creatività all'interno della comunità di gioco. Tuttavia, questa valvola di sfogo creativa ha portato al caricamento di contenuti problematici, rendendo necessaria un'intervento.

Epic Games compie passi decisivi contro le immagini razziste generate da IA

I giocatori hanno recentemente scoperto mappe dell'isola all'interno di Fortnite che presentavano immagini grezze generate da IA che perpetuavano stereotipi razzisti. Gli esempi includevano mappe chiamate “Arab Zonewars”, “Nigerian Zonewars” e “China Zonewars”, con immagini accompagnate che rafforzavano stereotipi offensivi, come uomini del Medio Oriente che tengono bombe e uomini neri che mangiano pollo fritto.

Sebbene la maggior parte di queste mappe avesse popolazioni di server relativamente piccole, una mappa, “Jamaica Zonewars”, vantava oltre 35.000 giocatori attivi all'inizio di questo mese. Epic Games ha risposto prontamente, rimuovendo molte di queste isole offensive e prendendo provvedimenti contro i creatori coinvolti.

L'azienda ha dichiarato: “Abbiamo già affrontato più di 100 isole con violazioni dei contenuti che utilizzano questo formato di miniatura simile e continueremo a farlo”. Epic Games ha sottolineato che i contenuti discriminatori non hanno posto in Fortnite, violando le regole per i creatori di isole dell'azienda.

Gli utenti trovati in violazione di queste linee guida rischiano di subire il ban permanente dei loro account. La moderazione umana è un aspetto cruciale del controllo dei contenuti in Fortnite, con un team che esamina tutti i contenuti creati dagli utenti prima della pubblicazione. Epic Games sta lavorando attivamente per aggiornare le regole per i creatori di isole e i programmi di formazione sulla moderazione per minimizzare la comparsa di mappe violanti ai giocatori.

Impegno nella moderazione e miglioramenti futuri

Nonostante la revisione pre-pubblicazione, il team di moderazione adotta un approccio misurato, incoraggiando i moderatori ad assumere la buona fede da parte dei creatori. Epic Games ha spiegato: “Chiediamo al nostro team di moderazione di assumere la buona fede del creatore se non sono sicuri di una violazione del contenuto, così da non censurare eccessivamente.”

Tuttavia, questo approccio porta a casi in cui contenuti inappropriati vengono pubblicati. In tali casi, l'azienda agisce rapidamente per rimuovere il materiale offensivo e fornisce materiali di formazione aggiuntivi per i moderatori. I creatori trovati in violazione delle regole affrontano una gamma di azioni di enforcement, inclusi ban permanenti alla pubblicazione e alla monetizzazione.

L'editore sta affrontando attivamente il problema lavorando all'aggiornamento delle regole per i creatori di isole e dei programmi di formazione sulla moderazione. Noto, l'Epic Games Store ha abbracciato la tendenza dell'IA generativa a settembre, consentendo giochi e sottomissioni che presentano arte ed elementi generati da IA. Questo cambiamento è seguito a un cambiamento di posizione da parte del marketplace di giochi per PC concorrente Steam, che inizialmente si opponeva ai contenuti IA ma in seguito ha ammorbidito le sue regole di fronte a un aumento di tali sottomissioni.

Il fondatore e CEO di Epic Games, Tim Sweeney, ha sottolineato su Twitter che l'azienda non vieta i giochi per l'uso di nuove tecnologie. Questa dichiarazione coincide con l'apertura alla pubblicazione autonoma completa avvenuta all'inizio dello stesso anno. Nonostante gli sforzi continui degli sviluppatori di IA per eliminare le immagini offensive dai loro modelli, gli utenti hanno trovato modi per “jailbreakare” i modelli utilizzando prompt specializzati.

Noto, ad ottobre, le immagini generate da IA che ritraggono personaggi come SpongeBob SquarePants e Kirby di Nintendo mentre compiono azioni inappropriate hanno ottenuto attenzione virale. Epic Games sta affrontando proattivamente il problema delle immagini generate da IA razziste in Fortnite, intraprendendo misure per rimuovere i contenuti offensivi e applicando conseguenze per le violazioni delle regole.