ToxMod от Call of Duty стремится создать более безопасную игровую среду

В значительном шаге к созданию более здоровой игровой среды Call of Duty официально запустила свою систему модерации голосового чата на базе ИИ «ToxMod» для борьбы с токсичными высказываниями в игре. Система, которая проходила бета-тестирование в Северной Америке с августа, теперь доступна по всему миру, совпадая с выпуском Call of Duty: Modern Warfare 3. Этот шаг стал ответом на давнюю проблему оскорбительного языка в популярной франшизе шутеров.

Технология ToxMod, основанная на искусственном интеллекте, была разработана в партнерстве с компанией Modulate, специализирующейся на борьбе с токсичным поведением в сети. Она решает проблему токсичных высказываний, фильтруя как голосовой чат, так и текст в игре. ToxMod обладает способностью анализировать контент на 14 различных языках, что делает ее универсальным инструментом для продвижения уважительной игровой атмосферы.

Глобальный запуск и планы расширения

На момент выпуска Call of Duty: Modern Warfare 3 система ToxMod официально работает во всех трех играх франшизы, за исключением региона Азиатско-Тихоокеанского региона. Команда модерации Call of Duty планирует расширить языковые возможности системы, сосредоточившись на включении испанского и португальского языков в модерацию голосового чата.

Проблема токсичных высказываний не ограничивается франшизой Call of Duty. Онлайн-игры в целом борются с этой проблемой, затрагивая различные игровые сообщества. Такие игры, как Overwatch 2, также столкнулись с призывами к улучшению фильтров чата для борьбы с токсичностью. Онлайн-чаты, как внутри, так и за пределами игровой сферы, стали рассадником оскорбительного и abusive языка.

В стремлении создать более инклюзивную и дружелюбную игровую экосистему Call of Duty проявила проактивность в решении проблемы токсичного поведения. Еще в прошлом году франшиза представила новый кодекс поведения, который привел к бану 500 000 игроков. Однако борьба с токсичностью остается постоянной задачей, и внедрение системы ToxMod представляет собой новейшую попытку решить эту проблему.

Споры вокруг модерации на базе ИИ

Хотя приверженность Call of Duty к сдерживанию токсичного поведения заслуживает похвалы, использование технологий на базе ИИ для модерации голосового чата вызвало определенные опасения и споры в игровом сообществе. Некоторые игроки могут найти идею ИИ, слушающего разговоры, навязчивой или тревожной, даже если она реализуется в альтруистических целях. Дебаты о конфиденциальности и степени участия ИИ в мониторинге взаимодействий игроков, вероятно, продолжатся.

По мере того как Call of Duty выпускает свою систему модерации голосового чата на базе ИИ, ToxMod, для глобальной аудитории, она делает значительный шаг в решении давней проблемы токсичных высказываний в игре. Этот шаг является частью постоянных усилий франшизы по созданию более дружелюбной и уважительной игровой среды для миллионов своих игроков по всему миру. Хотя введение ИИ-модерации может вызвать некоторые споры, оно подчеркивает приверженность борьбе с токсичностью в онлайн-игровых пространствах.

 По мере того как игровая индустрия борется с этой проблемой, действия Call of Duty могут служить моделью для других игровых сообществ, стремящихся создать более инклюзивный и приятный опыт для всех игроков.