Call of duty’s ToxMod aims to create a safer gaming environment

Dans une étape majeure vers un environnement de jeu plus sain, Call of Duty a officiellement lancé son système de modération vocale alimenté par l'IA, « ToxMod », pour lutter contre les discours toxiques au sein du jeu. Le système, qui a fait l'objet d'un test bêta en Amérique du Nord depuis août, est désormais disponible mondialement, coïncidant avec la sortie de Call of Duty : Modern Warfare 3. Cette initiative répond au problème persistant du langage abusif dans cette franchise de tir populaire.

La technologie propulsée par l'IA, ToxMod, a été développée en partenariat avec Modulate, une entreprise dédiée à la lutte contre les comportements toxiques en ligne. Elle s'attaque au problème persistant des discours toxiques en filtrant à la fois les chats vocaux et textuels dans le jeu. ToxMod se distingue par sa capacité à analyser le contenu dans 14 langues différentes, ce qui en fait un outil polyvalent pour promouvoir une atmosphère de jeu respectueuse.

Global rollout and expansion plans

À compter de la sortie de Call of Duty : Modern Warfare 3, le système ToxMod est officiellement actif sur les trois titres de la franchise, à l'exception de la région Asie-Pacifique. L'équipe de modération de Call of Duty prévoit d'étendre davantage les capacités linguistiques du système, en mettant l'accent sur l'intégration de l'espagnol et du portugais dans la modération des conversations vocales.

La question des discours haineux ne se limite pas à la franchise Call of Duty. Le jeu en ligne, en général, fait face à ce problème, qui affecte diverses communautés de joueurs. Des jeux comme Overwatch 2 ont également été confrontés à des appels pour renforcer les filtres de chat afin de lutter contre la toxicité. Les salles de chat en ligne, tant au sein qu'en dehors de l'univers du jeu, sont devenues des foyers de langage offensant et abusif.

Dans la quête de la création d'un écosystème de jeu plus inclusif et convivial, Call of Duty a été proactive dans la résolution du problème des comportements toxiques. L'année dernière, la franchise a introduit un nouveau code de conduite qui a conduit au bannissement de 500 000 joueurs. Cependant, la lutte contre la toxicité reste un effort continu, et l'introduction du système ToxMod représente la dernière initiative pour relever ce défi.

Polémique autour de la modération par IA

Bien que l'engagement de Call of Duty à limiter les comportements toxiques soit louable, l'utilisation de la technologie d'IA pour la modération du chat vocal a soulevé certaines préoccupations et controverses au sein de la communauté des joueurs. Certains joueurs peuvent trouver l'idée d'une IA écoutant les conversations intrusive ou dérangeante, même si elle est mise en œuvre pour des raisons altruistes. Le débat sur la vie privée et l'étendue de l'implication de l'IA dans la surveillance des interactions des joueurs est susceptible de se poursuivre.

Alors que Call of Duty déploie son système de modération vocale propulsé par l'IA, ToxMod, auprès d'un public mondial, il fait un pas significatif pour résoudre le problème de longue date des discours toxiques au sein du jeu. Cette initiative s'inscrit dans les efforts continus de la franchise pour favoriser un environnement de jeu plus accueillant et respectueux pour ses millions de joueurs à travers le monde. Bien que l'introduction de la modération par IA puisse susciter certaines controverses, elle souligne l'engagement à combattre la toxicité dans les espaces de jeu en ligne.

 Alors que l'industrie du jeu fait face à ce défi, les actions de Call of Duty peuvent servir de modèle pour d'autres communautés de jeu cherchant à créer une expérience plus inclusive et agréable pour tous les joueurs.