Epic Games ha preso misure decisive in risposta alle proteste dei giocatori, rimuovendo le immagini razziste generate dall'intelligenza artificiale caricate dagli utenti su Fortnite, secondo un rapporto di Kotaku. La popolarità di Fortnite è in parte dovuta alla sua funzionalità unica che consente agli utenti di creare e condividere le proprie mappe, promuovendo un senso di creatività all'interno della community di gioco. Tuttavia, questo sfogo creativo ha portato al caricamento di contenuti problematici matic rendendo necessario un intervento.
Epic Games compie passi decisivi contro le immagini razziste generate dall'intelligenza artificiale
Di recente, i giocatori hanno scoperto mappe di isole all'interno di Fortnite con immagini generate dall'intelligenza artificiale che perpetuavano stereotipi razzisti. Tra gli esempi, mappe denominate "Zonewars arabe", "Zonewars nigeriane" e "Zonewars cinesi", con immagini di accompagnamento che rafforzavano stereotipi offensivi, come uomini mediorientali che impugnavano bombe e uomini di colore che mangiavano pollo fritto.
Sebbene la maggior parte di queste mappe avesse una popolazione di server relativamente ridotta, una mappa, "Jamaica Zonewars", vantava oltre 35.000 giocatori attivi all'inizio di questo mese. Epic Games ha risposto prontamente, rimuovendo molte di queste isole offensive e prendendo provvedimenti contro i creatori coinvolti.
L'azienda ha dichiarato: "Abbiamo già risolto il problema di oltre 100 isole con violazioni dei contenuti che utilizzano questo formato di miniatura simile e continueremo a farlo". Epic Games ha sottolineato che i contenuti discriminatori non hanno posto in Fortnite, violando le regole dell'azienda per la creazione di isole.
Gli utenti che violano queste linee guida rischiano di incorrere in ban permanenti dei propri account. La moderazione umana è un aspetto cruciale del controllo dei contenuti in Fortnite, con un team che esamina tutti i contenuti creati dagli utenti prima che vengano pubblicati. Epic Games sta lavorando attivamente per aggiornare le sue regole per la creazione di isole e i programmi di formazione per la moderazione, al fine di ridurre al minimo il rischio che le mappe che violano le regole raggiungano i giocatori.
Impegno alla moderazione e ai miglioramenti futuri
Nonostante la revisione pre-pubblicazione, il team di moderazione adotta un approccio misurato, incoraggiando i moderatori a dare per scontato le buone intenzioni dei creatori. Epic Games ha spiegato: "Chiediamo al nostro team di moderazione di dare per scontato le buone intenzioni dei creatori se non sono certi di una violazione dei contenuti, in modo da evitare una censura eccessiva"
Tuttavia, questo approccio porta a casi in cui vengono pubblicati contenuti inappropriati. In questi casi, l'azienda interviene rapidamente per rimuovere il materiale offensivo e fornisce ulteriore materiale formativo ai moderatori. I creatori che violano le regole sono soggetti a una serie di misure coercitive, tra cui il divieto permanente di pubblicazione e monetizzazione.
L'editore sta affrontando attivamente la questione aggiornando le regole per la creazione di isole e i programmi di formazione per la moderazione. In particolare, l'Epic Games Store ha abbracciato la tendenza dell'IA generativa a settembre, consentendo giochi e invii con elementi e grafica basati sull'IA. Questo cambiamento ha fatto seguito a un cambio di posizione da parte del rivale Steam, il marketplace di videogiochi per PC, che inizialmente si era opposto ai contenuti basati sull'IA, ma in seguito ha attenuato le sue regole a fronte di un aumento di tali invii.
Il fondatore e CEO di Epic Games, Tim Sweeney, ha sottolineato su Twitter che l'azienda non vieta i giochi che utilizzano nuove tecnologie. Questa dichiarazione ha coinciso con l'apertura completa all'autopubblicazione all'inizio dello stesso anno. Nonostante i continui sforzi degli sviluppatori di intelligenza artificiale per eliminare le immagini offensive dai loro modelli, gli utenti hanno trovato il modo di "eseguire il jailbreak" dei modelli utilizzando prompt specializzati.
In particolare, a ottobre, le immagini generate dall'intelligenza artificiale che ritraggono personaggi come SpongeBob SquarePants e Kirby di Nintendo impegnati in azioni inappropriate hanno attirato l'attenzione virale. Epic Games sta affrontando in modo proattivo il problema delle immagini razziste dall'intelligenza artificiale in Fortnite, adottando misure per rimuovere i contenuti offensivi e applicando sanzioni per le violazioni delle regole.
