Epic Games eliminará las imágenes racistas generadas por IA en Fortnite

Epic Games ha tomado medidas decisivas en respuesta a las quejas de los jugadores, eliminando imágenes racistas generadas por IA que habían subido a Fortnite, según un informe de Kotaku. La popularidad de Fortnite se debe en parte a su característica única que permite a los usuarios crear y compartir sus mapas, fomentando así la creatividad en la comunidad de jugadores. Sin embargo, esta libertad creativa ha propiciado la publicación de contenido problemáticomatic lo que ha generado la necesidad de intervenir.

Epic Games toma medidas decisivas contra las imágenes racistas generadas por IA

Los jugadores descubrieron recientemente mapas de islas en Fortnite con imágenes crudas generadas por IA que perpetuaban estereotipos racistas. Algunos ejemplos incluían mapas llamados "Guerras de Zona Árabes", "Guerras de Zona Nigerianas" y "Guerras de Zona Chinas", con imágenes que reforzaban estereotipos ofensivos, como hombres de Oriente Medio sosteniendo bombas y hombres negros comiendo pollo frito.

Aunque la mayoría de estos mapas tenían una población de servidores relativamente pequeña, un mapa, "Jamaica Zonewars", contaba con más de 35 000 jugadores activos a principios de mes. Epic Games respondió con rapidez, eliminando muchas de estas islas ofensivas y tomando medidas contra los creadores involucrados.

La compañía declaró: "Ya hemos abordado más de 100 islas con violaciones de contenido que usan este formato de miniatura similar y continuaremos haciéndolo". Epic Games enfatizó que el contenido discriminatorio no tiene cabida en Fortnite, violando las reglas para creadores de islas de la compañía.

Los usuarios que infrinjan estas normas se arriesgan a una suspensión permanente de sus cuentas. La moderación humana es un aspecto crucial del control de contenido en Fortnite, ya que un equipo revisa todo el contenido creado por los usuarios antes de su publicación. Epic Games trabaja activamente para actualizar sus normas para creadores de islas y sus programas de formación de moderadores para minimizar la incidencia de mapas infractores que afecten a los jugadores.

Compromiso con la moderación y futuras mejoras

A pesar de la revisión previa a la publicación, el equipo de moderación adopta un enfoque mesurado, animando a los moderadores a asumir buenas intenciones por parte de los creadores. Epic Games explicó: «Le pedimos a nuestro equipo de moderación que asuma buenas intenciones por parte del creador si no está seguro de una infracción de contenido para no censurar excesivamente»

Sin embargo, este enfoque puede dar lugar a la publicación de contenido inapropiado. En tales casos, la empresa actúa con rapidez para retirar el material ofensivo y proporciona materiales de capacitación adicionales para los moderadores. Los creadores que infrinjan las normas se enfrentan a diversas medidas coercitivas, como la prohibición permanente de publicar y monetizar.

La editora está abordando activamente el problema actualizando sus reglas para creadores de islas y sus programas de capacitación en moderación. Cabe destacar que la Epic Games Store adoptó la tendencia de la IA generativa en septiembre, permitiendo juegos y envíos con arte y elementos de IA. Este cambio se produjo tras un cambio de postura por parte de la plataforma rival de juegos para PC, Steam, que inicialmente se opuso al contenido de IA, pero posteriormente flexibilizó sus reglas ante el aumento de este tipo de envíos.

El fundador y director ejecutivo de Epic Games, Tim Sweeney, enfatizó en Twitter que la compañía no prohíbe juegos por usar nuevas tecnologías. Esta declaración coincidió con la apertura de la autopublicación completa a principios de ese mismo año. A pesar de los continuos esfuerzos de los desarrolladores de IA por eliminar imágenes ofensivas de sus modelos, los usuarios han encontrado maneras de liberarlos mediante indicaciones especializadas.

Cabe destacar que, en octubre, imágenes generadas por IA que mostraban a personajes como Bob Esponja y Kirby de Nintendo realizando acciones inapropiadas se viralizaron. Epic Games está abordando de forma proactiva el problema de las imágenes racistas por IAen Fortnite, tomando medidas para eliminar el contenido ofensivo y aplicando sanciones por infracciones de las normas.