Epic Games vai remover imagens racistas geradas por IA no Fortnite

A Epic Games tomou medidas decisivas em resposta à indignação dos jogadores, purgando imagens racistas geradas por IA enviadas por usuários no Fortnite, de acordo com um relatório da Kotaku. A popularidade do Fortnite é em parte devido ao seu recurso exclusivo que permite aos usuários criar e compartilhar seus mapas, promovendo um senso de criatividade dentro da comunidade de jogos. No entanto, esta saída criativa levou ao envio de conteúdo problemático, exigindo a necessidade de intervenção.

Epic Games dá passos decisivos contra imagens racistas geradas por IA

Jogadores descobriram recentemente mapas de ilhas no Fortnite que apresentavam imagens grosseiras geradas por IA, perpetuando estereótipos racistas. Os exemplos incluíam mapas chamados “Arab Zonewars”, “Nigerian Zonewars” e “China Zonewars”, com imagens acompanhantes que reforçavam estereótipos ofensivos, como homens do Oriente Médio segurando bombas e homens negros comendo frango frito.

Embora a maioria desses mapas tivesse populações de servidores relativamente pequenas, um mapa, “Jamaica Zonewars”, contava com mais de 35.000 jogadores ativos no início deste mês. A Epic Games respondeu prontamente, removendo muitas dessas ilhas ofensivas e tomando medidas contra os criadores envolvidos.

A empresa declarou: “Já abordamos mais de 100 ilhas com violações de conteúdo que usam esse formato semelhante de miniatura e continuaremos a fazê-lo.” A Epic Games enfatizou que conteúdo discriminatório não tem lugar no Fortnite, violando as regras para criadores de ilhas da empresa.

Usuários considerados em violação dessas diretrizes correm o risco de sofrer banimentos permanentes em suas contas. A moderação humana é um aspecto crucial do controle de conteúdo no Fortnite, com uma equipe revisando todo o conteúdo criado pelos usuários antes de ser publicado. A Epic Games está trabalhando ativamente para atualizar suas regras para criadores de ilhas e programas de treinamento de moderação para minimizar a ocorrência de mapas violadores chegando aos jogadores.

Compromisso com a moderação e melhorias futuras

Apesar da revisão pré-publicação, a equipe de moderação adota uma abordagem medida, incentivando os moderadores a presumir boa intenção por parte dos criadores. A Epic Games explicou: “Pedimos à nossa equipe de moderação para presumir boa intenção em nome do criador se eles tiverem dúvidas sobre uma violação de conteúdo, para que não haja uma autocensura excessiva.”

No entanto, essa abordagem leva a casos em que conteúdo inadequado é publicado. Nesses casos, a empresa age rapidamente para remover o material ofensivo e fornece materiais de treinamento adicionais para os moderadores. Criadores considerados em violação das regras enfrentam uma variedade de ações de aplicação, incluindo banimentos permanentes de publicação e monetização.

A editora está abordando ativamente o problema trabalhando na atualização de suas regras para criadores de ilhas e programas de treinamento de moderação. Notavelmente, a Epic Games Store abraçou a tendência da IA generativa em setembro, permitindo jogos e submissões que apresentavam arte e elementos de IA. Essa mudança seguiu uma alteração de postura da Steam, o mercado de jogos para PC rival, que inicialmente se opôs ao conteúdo de IA, mas depois suavizou suas regras diante de um aumento nessas submissões.

O fundador e CEO da Epic Games, Tim Sweeney, enfatizou no Twitter que a empresa não proíbe jogos pelo uso de novas tecnologias. Essa declaração coincidiu com a abertura da auto-publicação total no início do mesmo ano. Apesar dos esforços contínuos dos desenvolvedores de IA para eliminar imagens ofensivas de seus modelos, os usuários encontraram maneiras de “quebrar” os modelos usando prompts especializados.

Notavelmente, em outubro, imagens geradas por IA apresentando personagens como Bob Esponja e Kirby da Nintendo envolvidos em ações inadequadas ganharam atenção viral. A Epic Games está abordando proativamente o problema de imagens racistas geradas por IA no Fortnite, tomando medidas para remover o conteúdo ofensivo e aplicando consequências por violações das regras.