A Epic Games tomou medidas decisivas em resposta à indignação dos jogadores, removendo imagens racistas geradas por IA que haviam sido enviadas por usuários do Fortnite, de acordo com uma reportagem da Kotaku. A popularidade do Fortnite se deve, em parte, ao seu recurso exclusivo que permite aos usuários criar e compartilhar seus mapas, fomentando um senso de criatividade dentro da comunidade gamer. No entanto, essa forma de expressão criativa levou ao envio de conteúdo problemático matic o que tornou necessária a intervenção.
Epic Games toma medidas decisivas contra imagens racistas geradas por IA
Jogadores descobriram recentemente mapas de ilhas dentro do Fortnite com imagens grosseiras geradas por IA que perpetuavam estereótipos racistas. Exemplos incluem mapas chamados "Guerras na Zona Árabe", "Guerras na Zona Nigeriana" e "Guerras na Zona Chinesa", com imagens que reforçavam estereótipos ofensivos, como homens do Oriente Médio segurando bombas e homens negros comendo frango frito.
Embora a maioria desses mapas tivesse uma população de servidores relativamente pequena, um mapa, "Jamaica Zonewars", ostentava mais de 35.000 jogadores ativos no início deste mês. A Epic Games respondeu prontamente, removendo muitas dessas ilhas ofensivas e tomando medidas contra os criadores envolvidos.
A empresa declarou: "Já abordamos mais de 100 ilhas com violações de conteúdo que usam esse formato de miniatura semelhante e continuaremos a fazê-lo." A Epic Games enfatizou que conteúdo discriminatório não tem lugar no Fortnite, violando as regras da empresa para criadores de ilhas.
Usuários que violarem essas diretrizes correm o risco de terem suas contas banidas permanentemente. A moderação humana é um aspecto crucial do controle de conteúdo no Fortnite, com uma equipe revisando todo o conteúdo criado pelos usuários antes de sua publicação. A Epic Games está trabalhando ativamente para atualizar suas regras de criação de ilhas e seus programas de treinamento de moderação para minimizar a ocorrência de mapas que violem as regras e cheguem aos jogadores.
Compromisso com a moderação e melhorias futuras
Apesar da revisão prévia à publicação, a equipe de moderação adota uma abordagem cautelosa, incentivando os moderadores a presumirem a boa intenção dos criadores. A Epic Games explicou: "Pedimos à nossa equipe de moderação que presuma a boa intenção do criador caso haja dúvidas sobre uma violação de conteúdo, para que não haja censura excessiva."
No entanto, essa abordagem leva a casos em que conteúdo inadequado é publicado. Nesses casos, a empresa age rapidamente para remover o material ofensivo e fornece materiais de treinamento adicionais para moderadores. Criadores que violarem as regras estão sujeitos a uma série de medidas punitivas, incluindo proibições permanentes de publicação e monetização.
A editora está abordando ativamente a questão, trabalhando na atualização de suas regras para criadores de ilhas e em seus programas de treinamento para moderadores. Notavelmente, a Epic Games Store abraçou a tendência da IA generativa em setembro, permitindo jogos e envios com arte e elementos de IA. Essa mudança seguiu uma alteração na postura da Steam, sua concorrente no mercado de jogos para PC, que inicialmente se opôs ao conteúdo de IA, mas posteriormente suavizou suas regras em meio a um aumento no número de envios desse tipo.
Tim Sweeney, fundador e CEO da Epic Games, enfatizou no Twitter que a empresa não bane jogos por utilizarem novas tecnologias. Essa declaração coincidiu com a abertura da autopublicação completa no início do mesmo ano. Apesar dos esforços contínuos dos desenvolvedores de IA para eliminar imagens ofensivas de seus modelos, os usuários encontraram maneiras de "quebrar" os modelos usando comandos específicos.
Notavelmente, em outubro, imagens geradas por IA com personagens como Bob Esponja e Kirby, da Nintendo, em ações inapropriadas, viralizaram. A Epic Games está lidando proativamente com a questão das imagens racistas por IA no Fortnite, tomando medidas para remover conteúdo ofensivo e aplicando consequências para violações das regras.
