Discord разблокировал 8000 пользователей после того, как ИИ ошибочно пометил изображения как безобидные
- Discord восстановил все затронутые аккаунты после того, как ошибка в системе модерации ИИ заблокировала более 8000 пользователей с мая.
- Запреты носили постоянный характер и не требовали проверки человеком.
- Этот случай пополняет череду сбоев автоматической модерации в Instagram, Facebook и Tumblr.
Discord восстановил более 8000 учетных записей, которые былиdentзаблокированы. Сбой в автоматизированной системе модерации ошибочно пометил безобидные загрузки как незаконный контент. Система обнаружила электронные таблицы, шахматные доски и игровые текстуры. Блокировки были перманентными и не были произведены без участия человека.
В сообщении, опубликованном службой поддержки на X 7 июля 2026 года, Discord подробно описал произошедшие ошибки.
Пользователи сталкивались с подозрительными признаками с мая. Команда Discord смоглаdentпроблему и выпустить исправление после того, как за выходные было обнаружено около 200 дополнительных учетных записей. Компания объявила, что все затронутые учетные записи в настоящее время восстанавливаются.
Поиск сходства в электронных таблицах и таблицах
Каждый загруженный файл сравнивается с базами данных контента, который уже былdentкак опасный инструментами безопасности Discord. Компания признает, что сопоставление по сходству, являющееся основой для этого сравнения, может давать сбои и приводить к ложным срабатываниям.
На бумаге, прежде чем учетная запись будет заблокирована, сотрудник отдела безопасности и доверия должен проверить все, что система выявит.
Этот шаг был исключен из-за ошибки. Система полностью блокировала учетные записи, вместо того чтобы отправлять сомнительные загрузки на проверку. Простые фотографии вызывали срабатывание фильтра, что приводило к мгновенной блокировке. Наряду с электронными таблицами и шахматными досками, также захватывались прозрачные белые и серые фоны.
Прежде чем Discord дал объяснение, недовольство появилось на X и Reddit. Единственной причиной, по которой люди сообщали о потере своих аккаунтов, была публикация изображений с квадратной сеткой.
Несколько пользователей выдвинули теорию. Модель обнаружения могла начать реагировать на всё, что напоминает сетку, потому что сетчатая структура ранее использовалась для сокрытия от автоматических сканеров контента, не предназначенного для просмотра несовершеннолетними, и материалов, эксплуатирующих детей.
«…Нам следовало заметить это раньше. Мы работаем над улучшением мер безопасности, чтобы это больше не повторилось», — написали в Discord в своей теме на X-сервере.
В эти выходные наши системы безопасности ошибочно сработали и заблокировали около 200 учетных записей. Все пострадавшие аккаунты восстановлены.
Вот что произошло. Тред 🧵 https://t.co/wXH32iiv8I
— Служба поддержки Discord (@discord_support) 7 июля 2026 г.
Аналогичные блокировки коснулись Meta и Tumblr
4 июля игровой директор под ником JDBRYANT заявил, что его аккаунт был удален, потому что автоматический модератор истолковал текстуры его игры как изображение сексуального насилия над детьми.
Запретил канал связи, который он использует для всех рабочих вопросов. Он заявил, что подал запрос на пересмотр решения о блокировке.
Другой пользователь пошел еще дальше. «…Эту уязвимость необходимо немедленно устранить, а все ложные блокировки отменить. Потеря аккаунта Discord из-за такой несправедливости может быть крайне разрушительной и серьезно повлиять на пользователей, и каждый день миллионы пользователей страдают от ложных блокировок со стороны ИИ. Это нужно остановить», — написал на X.
Согласно статистике самой компании, на которую Cryptopolitan ссылалось издание в феврале,
В прошлом году пользователи групп в Instagram и Facebook также сообщали о волнах необъяснимых блокировок, которые в основном объяснялись автоматической модерацией, хотя Meta так и не подтвердила, были ли в их основе ошибки ИИ. С тех пор наблюдательный совет Meta призвал компанию к большей прозрачности.
На платформе Tumblr поступали аналогичные жалобы на массовые блокировки без четкого объяснения причин.
В начале 2026 года Discord начал внедрять глобальную проверку возраста и настройки по умолчанию для подростков, позиционируя эти изменения как меры по защите детей, как сообщало Cryptopolitan в феврале.
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Часто задаваемые вопросы
Сколько пользователей Discord были забанены по ошибке, и были ли они восстановлены?
Начиная с мая 2026 года, более 8000 учетных записей были ошибочно заблокированы, и Discord заявляет, что все затронутые учетные записи восстанавливаются.
Какие изображения становились причиной ложных блокировок?
Безобидные файлы, загруженные пользователями, включая электронные таблицы, шахматные доски, игровые текстуры, а также белые и серые прозрачные фоны, были помечены как вредоносные.
Почему запреты были введены без участия человека-эксперта?
Система Discord разработана таким образом, что сотрудник отдела доверия и безопасности проверяет помеченный контент перед принятием каких-либо мер, но из-за ошибки система немедленно блокировала затронутые учетные записи.
Ранда Мозес
Ранда Мозес — редактор и репортер Cryptopolitan освещающая темы технологий, искусственного интеллекта, робототехники, криптовалют, мошенничества и взломов. Она работает в криптопространстве с 2017 года. Ранее работала в Forward Protocol, AmaZix и Cryptosomniac. Ранда имеет степень в области электротехники иtron, полученную в Университете Брэдфорда.
