ToxMod da Call of Duty visa criar um ambiente de jogo mais seguro

Em um passo significativo para fomentar um ambiente de jogo mais saudável, Call of Duty lançou oficialmente seu sistema de moderação de chat de voz impulsionado por IA, “ToxMod”, para combater o discurso tóxico dentro do jogo. O sistema, que passou por testes beta na América do Norte desde agosto, agora está disponível mundialmente, coincidindo com o lançamento de Call of Duty: Modern Warfare 3. Este movimento vem como uma resposta ao problema de longa data da linguagem abusiva na popular franquia de tiro.

A tecnologia impulsionada por IA, ToxMod, foi desenvolvida em parceria com a Modulate, uma empresa dedicada a combater o comportamento tóxico online. Ela aborda o problema persistente do discurso tóxico filtrando tanto o chat de voz quanto o texto dentro do jogo. O ToxMod possui a capacidade de analisar conteúdo em 14 idiomas diferentes, tornando-o uma ferramenta versátil para promover um ambiente de jogos respeitoso.

Lançamento global e planos de expansão

A partir do lançamento de Call of Duty: Modern Warfare 3, o sistema ToxMod está oficialmente ativo em todos os três títulos da franquia, exceto na região da Ásia-Pacífico. A equipe de moderação da Call of Duty tem planos de expandir ainda mais as capacidades de idioma do sistema, com foco na incorporação de espanhol e português na moderação de chat de voz.

O problema do discurso tóxico não se limita à franquia Call of Duty. Os jogos online, em geral, têm lutado com esse problema, afetando várias comunidades de jogos. Jogos como Overwatch 2 também enfrentaram chamados por filtros de chat aprimorados para combater a toxicidade. Salas de bate-papo online, tanto dentro quanto fora do esfera dos jogos, tornaram-se focos de linguagem ofensiva e abusiva.

Na busca por criar um ecossistema de jogo mais inclusivo e amigável, Call of Duty tem sido proativa ao abordar o problema do comportamento tóxico. No ano passado, a franquia introduziu um novo código de conduta que resultou no banimento de 500.000 jogadores. No entanto, a luta contra a toxicidade continua sendo um esforço contínuo, e a introdução do sistema ToxMod representa o mais recente empreendimento para enfrentar esse desafio.

Polêmica em torno da moderação impulsionada por IA

Embora o compromisso do Call of Duty com a contenção de comportamentos tóxicos seja louvável, o uso de tecnologia baseada em IA para a moderação do chat de voz levantou certas preocupações e controvérsias dentro da comunidade de jogadores. Alguns jogadores podem achar a ideia da IA ouvindo conversas intrusiva ou perturbadora, mesmo que seja implementada por motivos altruístas. O debate sobre privacidade e o extento em que a IA deve estar envolvida na monitoração das interações dos jogadores provavelmente continuará.

À medida que Call of Duty lança seu sistema de moderação de chat de voz impulsionado por IA, ToxMod, para uma audiência global, ele dá um passo significativo para abordar o problema de longa data do discurso tóxico dentro do jogo. Este movimento faz parte dos esforços contínuos da franquia para fomentar um ambiente de jogo mais acolhedor e respeitoso para seus milhões de jogadores em todo o mundo. Embora a introdução da moderação por IA possa gerar alguma controvérsia, ela sublinha o compromisso de combater a toxicidade nos espaços de jogos online.

 Enquanto a indústria de jogos lida com esse desafio, as ações do Call of Duty podem servir como modelo para outras comunidades de jogos que buscam criar uma experiência mais inclusiva e agradável para todos os jogadores.