Epic Games supprime les images générées par l'IA racistes sur Fortnite

Epic Games a pris des mesures décisives en réponse aux protestations des joueurs, en purgeant les images générées par l'IA racistes uploadées par les utilisateurs dans Fortnite, selon un rapport de Kotaku. La popularité de Fortnite doit en partie à sa fonctionnalité unique qui permet aux utilisateurs de créer et de partager leurs cartes, favorisant ainsi un sentiment de créativité au sein de la communauté de jeu. Cependant, cette issue créative a conduit à l'upload de contenu problématique, ce qui a nécessité une intervention.

Epic Games prend des mesures décisives contre les images générées par l'IA racistes

Des joueurs ont récemment découvert des cartes d'îles dans Fortnite présentant des images brutes générées par une IA qui perpétuent des stéréotypes racistes. Parmi les exemples figuraient des cartes nommées « Arab Zonewars », « Nigerian Zonewars » et « China Zonewars », accompagnées d'images renforçant des stéréotypes offensants, tels que des hommes du Moyen-Orient tenant des bombes et des hommes noirs mangeant du poulet frit.

Bien que la plupart de ces cartes aient compté relativement peu de joueurs sur leurs serveurs, l'une d'elles, « Jamaica Zonewars », a enregistré plus de 35 000 joueurs actifs début ce mois-ci. Epic Games a réagi rapidement en supprimant de nombreuses îles offensantes et en prenant des mesures contre les créateurs concernés.

L'entreprise a déclaré : « Nous avons déjà traité plus de 100 îles contenant du contenu en violation qui utilise ce format de vignette similaire et nous continuerons à le faire. » Epic Games a souligné que le contenu discriminatoire n'a pas sa place dans Fortnite, car il viole les règles destinées aux créateurs d'îles.

Les utilisateurs qui enfreignent ces directives risquent des bannissements permanents de leur compte. La modération humaine est un aspect crucial du contrôle des contenus dans Fortnite, une équipe examinant tous les contenus créés par les utilisateurs avant leur publication. Epic Games travaille activement à mettre à jour ses règles pour les créateurs d'îles et ses programmes de formation à la modération afin de minimiser la diffusion de cartes non conformes auprès des joueurs.

Engagement en matière de modération et améliorations futures

Malgré l'examen préalable à la publication, l'équipe de modération adopte une approche mesurée, encourageant les modérateurs à faire preuve de bonne foi à l'égard des créateurs. Epic Games a expliqué : « Nous demandons à notre équipe de modération de présumer de la bonne foi du créateur en cas de doute sur une violation de contenu, afin d'éviter une censure excessive. »

Cependant, cette approche conduit parfois à la publication de contenus inappropriés. Dans de tels cas, l'entreprise agit rapidement pour retirer le contenu fautif et fournit des supports de formation supplémentaires aux modérateurs. Les créateurs reconnus coupables d'avoir enfreint les règles font face à diverses mesures disciplinaires, notamment des bannissements permanents de publication et de monétisation.

L'éditeur travaille activement à résoudre le problème en mettant à jour ses règles de création d'îles et ses programmes de formation à la modération. À noter que l'Epic Games Store a adopté la tendance de l'IA générative en septembre, permettant aux jeux et aux soumissions contenant des œuvres d'art et des éléments créés par IA. Ce changement a suivi une évolution de la position du concurrent Steam, qui s'était initialement opposé au contenu généré par l'IA avant d'assouplir ses règles face à l'augmentation de telles soumissions.

Tim Sweeney, fondateur et PDG d'Epic Games, a souligné sur Twitter que l'entreprise n'interdit pas les jeux utilisant de nouvelles technologies. Cette déclaration coïncide avec l'ouverture de l'autopublication complète plus tôt cette année-là. Malgré les efforts continus des développeurs d'IA pour éliminer les images offensantes de leurs modèles, les utilisateurs ont trouvé des moyens de « jailbreaker » ces modèles en utilisant des invites spécialisées.

Notamment, en octobre, des images générées par l'IA mettant en scène des personnages comme Bob l'éponge et Kirby de Nintendo se livrant à des actions inappropriées ont attiré l'attention du grand public. Epic Games s'attaque proactivement au problème des images générées par l'IA racistes dans Fortnite, prenant des mesures pour supprimer le contenu offensant et appliquer des sanctions en cas de violation des règles.