Epic Games удалит расистские изображения, сгенерированные искусственным интеллектом, из игры Fortnite

Согласно сообщению Kotaku, компания Epic Games приняла решительные меры в ответ на протесты игроков, удалив расистские изображения, созданные с помощью ИИ и загруженные пользователями в Fortnite. Популярность Fortnite отчасти объясняется уникальной функцией, позволяющей пользователям создавать и делиться своими картами, что способствует развитию творческого потенциала в игровом сообществе. Однако эта возможность для творчества привела к загрузке проблемногоmatic , что вызвало необходимость вмешательства.

Epic Games предпринимает решительные шаги против расистских изображений, созданных с помощью искусственного интеллекта

Недавно игроки обнаружили в Fortnite карты островов с примитивными изображениями, сгенерированными искусственным интеллектом, которые увековечивали расистские стереотипы. В качестве примеров были приведены карты под названиями «Арабские войны в зонах», «Нигерийские войны в зонах» и «Китайские войны в зонах», сопровождаемые изображениями, подкрепляющими оскорбительные стереотипы, такие как мужчины с Ближнего Востока, держащие бомбы, и чернокожие мужчины, поедающие жареную курицу.

Хотя большинство этих карт имели относительно небольшое количество игроков на серверах, одна карта, «Jamaica Zonewars», в начале этого месяца могла похвастаться более чем 35 000 активных игроков. Epic Games оперативно отреагировала, удалив многие из этих оскорбительных островов и приняв меры против их создателей.

Компания заявила: «Мы уже устранили нарушения, касающиеся контента на более чем 100 островах, использующих аналогичный формат миниатюр, и будем продолжать это делать». Epic Games подчеркнула, что дискриминационному контенту нет места в Fortnite, поскольку он нарушает правила компании по созданию островов.

Пользователи, нарушившие эти правила, рискуют получить пожизненную блокировку своих аккаунтов. Контроль со стороны модераторов является важнейшим аспектом управления контентом в Fortnite: команда проверяет весь созданный пользователями контент перед его публикацией. Epic Games активно работает над обновлением правил создания островов и программ обучения модераторов, чтобы свести к минимуму попадание нарушающих правила карт к игрокам.

Приверженность принципам умеренности и будущим улучшениям

Несмотря на предварительную проверку перед публикацией, команда модераторов придерживается взвешенного подхода, призывая модераторов исходить из добрых намерений создателей контента. Epic Games пояснила: «Мы просим нашу команду модераторов исходить из добрых намерений создателя, если он не уверен в нарушении авторских прав, чтобы избежать чрезмерной цензуры»

Однако такой подход приводит к случаям публикации неприемлемого контента. В таких случаях компания оперативно удаляет материалы, нарушающие правила, и предоставляет модераторам дополнительные обучающие материалы. В отношении авторов, уличенных в нарушении правил, применяются различные меры принуждения, включая пожизненный запрет на публикацию и монетизацию.

Издатель активно решает эту проблему, работая над обновлением правил создания островов и программ обучения модераторов. Примечательно, что в сентябре Epic Games Store поддержал тренд генеративного ИИ, разрешив игры и публикации с использованием графики и элементов, созданных ИИ. Этот сдвиг последовал за изменением позиции конкурирующего игрового онлайн-магазина Steam, который первоначально выступал против контента, созданного ИИ, но позже смягчил свои правила на фоне увеличения количества таких публикаций.

Основатель и генеральный директор Epic Games Тим Суини подчеркнул в Твиттере, что компания не запрещает игры за использование новых технологий. Это заявление совпало с открытием возможности полной самостоятельной публикации игр в начале того же года. Несмотря на постоянные усилия разработчиков ИИ по удалению оскорбительных изображений из своих моделей, пользователи нашли способы «взломать» модели с помощью специальных подсказок.

Примечательно, что в октябре сгенерированные ИИ изображения с персонажами, такими как Губка Боб Квадратные Штаны и Кирби от Nintendo, совершающими непристойные действия, получили вирусную популярность. Epic Games активно решает проблему расистских ИИв Fortnite, предпринимая шаги по удалению оскорбительного контента и применяя меры наказания за нарушения правил.