Epic Games eliminará imágenes generadas por IA racistas en Fortnite

Epic Games ha tomado medidas decisivas en respuesta a la indignación de los jugadores, eliminando imágenes generadas por IA racistas subidas por usuarios en Fortnite, según un informe de Kotaku. La popularidad de Fortnite se debe en parte a su característica única que permite a los usuarios crear y compartir sus mapas, fomentando un sentido de creatividad dentro de la comunidad de jugadores. Sin embargo, esta salida creativa ha llevado a la subida de contenido problemático, lo que ha generado la necesidad de intervención.

Epic Games da pasos decisivos contra las imágenes racistas generadas por IA

Los jugadores descubrieron recientemente mapas de islas dentro de Fortnite que presentaban imágenes groseras generadas por IA que perpetuaban estereotipos racistas. Los ejemplos incluían mapas llamados «Arab Zonewars», «Nigerian Zonewars» y «China Zonewars», con imágenes que reforzaban estereotipos ofensivos, como hombres del Medio Oriente sosteniendo bombas y hombres negros comiendo pollo frito.

Aunque la mayoría de estos mapas tenían poblaciones de servidores relativamente pequeñas, un mapa, «Jamaica Zonewars», contaba con más de 35.000 jugadores activos a principios de este mes. Epic Games respondió rápidamente, eliminando muchas de estas islas ofensivas y tomando medidas contra los creadores involucrados.

La empresa declaró: «Ya hemos abordado más de 100 islas con violaciones de contenido que utilizan este formato de miniatura similar y continuaremos haciéndolo». Epic Games enfatizó que el contenido discriminatorio no tiene cabida en Fortnite, ya que viola las reglas de los creadores de islas de la empresa.

Los usuarios que incumplan estas directrices corren el riesgo de enfrentar prohibiciones permanentes en sus cuentas. La moderación humana es un aspecto crucial del control de contenido en Fortnite, con un equipo que revisa todo el contenido creado por los usuarios antes de su publicación. Epic Games está trabajando activamente para actualizar las reglas de los creadores de islas y los programas de capacitación de moderación para minimizar la aparición de mapas que violen las normas y lleguen a los jugadores.

Compromiso con la moderación y mejoras futuras

A pesar de la revisión previa a la publicación, el equipo de moderación adopta un enfoque medido, animando a los moderadores a asumir buena fe por parte de los creadores. Epic Games explicó: «Pedimos a nuestro equipo de moderación que asuma buena fe por parte del creador si no están seguros sobre una violación de contenido para no censurar en exceso».

Sin embargo, este enfoque conduce a casos en los que se publica contenido inapropiado. En tales casos, la empresa actúa rápidamente para retirar el material ofensivo y proporciona materiales de capacitación adicionales para los moderadores. Los creadores que incumplan las normas enfrentan una variedad de medidas de aplicación, incluidas prohibiciones permanentes de publicación y monetización.

La editorial está abordando activamente el problema trabajando en la actualización de las reglas de los creadores de islas y los programas de capacitación de moderación. Cabe destacar que la Epic Games Store abrazó la tendencia de la IA generativa en septiembre, permitiendo juegos y presentaciones que presenten arte y elementos de IA. Este cambio siguió un cambio de postura por parte del mercado de juegos para PC rival Steam, que inicialmente se opuso al contenido de IA pero luego suavizó sus reglas ante un aumento en este tipo de presentaciones.

El fundador y CEO de Epic Games, Tim Sweeney, enfatizó en Twitter que la empresa no prohíbe juegos por utilizar nuevas tecnologías. Esta declaración coincidió con la apertura de la autopublicación completa a principios del mismo año. A pesar de los esfuerzos continuos de los desarrolladores de IA por eliminar imágenes ofensivas de sus modelos, los usuarios han encontrado formas de «hackear» los modelos utilizando prompts especializados.

Cabe destacar que, en octubre, imágenes generadas por IA que presentaban personajes como Bob Esponja y Kirby de Nintendo realizando acciones inapropiadas ganaron atención viral. Epic Games está abordando proactivamente el problema de las imágenes generadas por IA racistas en Fortnite, tomando medidas para eliminar el contenido ofensivo y aplicando consecuencias por violaciones de las normas.