Epic Games a pris des mesures radicales suite à la levée de boucliers des joueurs, en supprimant les images racistes générées par l'IA et mises en ligne par les utilisateurs de Fortnite, selon un article de Kotaku. La popularité de Fortnite repose en partie sur sa fonctionnalité unique qui permet aux joueurs de créer et de partager leurs cartes, stimulant ainsi la créativité au sein de la communauté. Cependant, cet espace créatif a également engendré la mise en ligne de contenus problématiques matic rendant nécessaire une intervention.
Epic Games prend des mesures décisives contre les images racistes générées par l'IA
Des joueurs ont récemment découvert dans Fortnite des cartes insulaires présentant des images grossières générées par IA qui perpétuaient des stéréotypes racistes. Parmi ces cartes figuraient « Arab Zonewars », « Nigerian Zonewars » et « China Zonewars », accompagnées d'images renforçant des stéréotypes offensants, comme des hommes du Moyen-Orient brandissant des bombes et des hommes noirs mangeant du poulet frit.
Bien que la plupart de ces cartes aient eu des serveurs relativement peu fréquentés, l'une d'entre elles, « Jamaica Zonewars », comptait plus de 35 000 joueurs actifs au début du mois. Epic Games a réagi rapidement en supprimant plusieurs de ces îles problématiques et en prenant des mesures contre leurs créateurs.
L'entreprise a déclaré : « Nous avons déjà traité plus de 100 îles présentant des infractions au règlement concernant le contenu utilisant ce format de vignette similaire et nous continuerons à le faire. » Epic Games a souligné que tout contenu discriminatoire n'a pas sa place dans Fortnite et enfreint le règlement de l'entreprise relatif aux créateurs d'îles.
Les utilisateurs ne respectant pas ces règles risquent une suspension définitive de leur compte. La modération humaine est essentielle au contrôle du contenu dans Fortnite : une équipe examine tout le contenu créé par les utilisateurs avant sa publication. Epic Games travaille activement à la mise à jour des règles de création d'îles et des programmes de formation à la modération afin de limiter la diffusion de cartes non conformes.
Engagement en faveur de la modération et des améliorations futures
Malgré la vérification avant publication, l'équipe de modération adopte une approche mesurée, incitant les modérateurs à présumer de la bonne foi des créateurs. Epic Games explique : « Nous demandons à notre équipe de modération de partir du principe que le créateur agit de bonne foi en cas de doute concernant une infraction au règlement, afin d'éviter une censure excessive. »
Cependant, cette approche peut parfois entraîner la publication de contenus inappropriés. Dans ce cas, l'entreprise intervient rapidement pour supprimer les contenus incriminés et fournit des formations complémentaires aux modérateurs. Les créateurs qui enfreignent les règles s'exposent à diverses sanctions, pouvant aller jusqu'à l'interdiction définitive de publier et de monétiser leurs contenus.
L'éditeur s'attaque activement au problème en travaillant à la mise à jour de ses règles de création d'îles et de ses programmes de formation à la modération. Notamment, l'Epic Games Store a adopté la tendance de l'IA générative en septembre, autorisant les jeux et les soumissions intégrant des éléments et des graphismes générés par IA. Ce changement fait suite à une évolution de la position de Steam, plateforme concurrente de jeux PC, qui s'était initialement opposée au contenu généré par IA avant d'assouplir ses règles face à l'augmentation de ces soumissions.
Le fondateur et PDG d'Epic Games, Tim Sweeney, a insisté sur Twitter sur le fait que l'entreprise n'interdit pas les jeux utilisant de nouvelles technologies. Cette déclaration a coïncidé avec l'ouverture de l'auto-édition complète plus tôt dans l'année. Malgré les efforts continus des développeurs d'IA pour éliminer les images offensantes de leurs modèles, les utilisateurs ont trouvé des moyens de les contourner grâce à des commandes spécifiques.
En octobre dernier, des images générées par IA montrant des personnages comme Bob l'éponge et Kirby de Nintendo dans des situations inappropriées ont fait le tour du web. Epic Games s'attaque activement au problème des images racistes par IA dans Fortnite, en supprimant les contenus incriminés et en appliquant des sanctions en cas d'infraction au règlement.
