- Утечка данных раскрывает, что Китай использует языковую модель на базе ИИ для сканирования 133 000 элементов с целью выявления чувствительного контента в интернете.
- Система направлена на политическую диссидентскую деятельность, социальные волнения и военные темы; при этом Тайвань упоминается более 15 000 раз.
- Эксперты отмечают, что передовые инструменты на базе ИИ могут усилить государственный контроль над общественным мнением и подавление критики.
Утечка данных показывает, что Китай использует большие языковые модели для усиления своей машины цензуры.
Недавняя утечка раскрыла, что сложная система ИИ, обученная на 133 000 примерах пользовательского контента, предназначена для выявления любых материалов, которые правительство считает чувствительными.
Набор данных, обнаруженный исследователем безопасности и просмотренный TechCrunch, показывает, что Китай предпринимает шаги по расширению своего онлайн-контроля далеко за пределы таких тем, как резня на площади Тяньаньмэнь.
Китай использует современные технологии для фильтрации онлайн-контента
Утечка, содержащая записи вплоть до декабря 2024 года, является явным признаком того, что китайские власти или их аффилированные лица используют новые технологии для фильтрации онлайн-контента.
База данных включает жалобы на бедность в сельском Китае, новостные сообщения о коррумпированных членах Коммунистической партии и призывы о помощи в связи с действиями коррумпированных полицейских, вымогательствующих у предпринимателей.
Каждый фрагмент контента подается в большую языковую модель (LLM), которая сканирует темы, способные вызвать общественное недовольство.
Сяо Цян, исследователь из Калифорнийского университета в Беркли, изучающий китайскую цензуру, сказал TechCrunch, что утечка данных является «ясным доказательством» намерения правительства использовать LLM для улучшения репрессивных мер.
Цян объяснил, что, в отличие от традиционных методов, которые полагаются на человеческий труд для фильтрации по ключевым словам и ручного обзора, LLM может быстро и точно выявлять даже тонкую критику, тем самым делая государственный контроль над информацией более эффективным и всеобъемлющим.
Система используется не только для цензуры политических тем, но и распространяется на чувствительные области социальной жизни и военных вопросов. Согласно деталям из утечки набора данных, любой контент, связанный с загрязнением окружающей среды, скандалами о безопасности пищевых продуктов, финансовым мошенничеством и трудовыми спорами, получает «наивысший приоритет» для цензуры.
Данные показывают, что такие темы, как антизагрязнительные протесты в Шифане в 2012 году, тщательно контролируются для предотвращения общественных волнений. Даже политическая сатира и исторические аналогии, направленные на текущих политических деятелей, мгновенно отмечаются. Контент, связанный с политикой Тайваня, также является мишенью, при этом военным вопросам — включая сообщения о передвижениях, учениях и деталях вооружения — уделяется пристальное внимание.
Слово «Тайвань» встречается 15,000 раз в наборе данных китайской цензуры
Заметной деталью в утечке контента является то, что китайское слово для Тайваня (台湾) встречается более 15 000 раз, что подчеркивает внимание к любым обсуждениям, которые могут бросить вызов официальной версии событий.
Другой чувствительный контент в наборе данных включает комментарии о военных возможностях Тайваня и детали относительно нового китайского истребителя. Даже тонкие формы инакомыслия не остаются без внимания; один из примеров, найденных в базе данных, — это анекдот о быстротечности власти с использованием популярной китайской идиомы «Когда дерево падает, обезьяны разбегаются».
Исследователь безопасности NetAskari обнаружил набор данных, который хранился в незащищенной базе данных Elasticsearch на сервере Baidu.
«Работа с общественным мнением» — это термин, используемый для усилий по цензуре и пропаганде, курируемых мощным Киберпространственным управлением Китая (CAC). Майкл Кастер, менеджер программы Азии в правозащитной организации Article 19, объяснил, что эта работа предназначена для обеспечения доминирования нарративов правительства в сети.
ополнительная заявка отчете от OpenAI в прошлом месяце также выявила, что неустановленное лицо, вероятно, действующее из Китая, использовало генеративный ИИ для мониторинга разговоров в социальных сетях — особенно тех, которые призывают к протестам за права человека — и пересылало информацию китайскому правительству. В том же отчете отмечалось, что технология использовалась для генерации комментариев, крайне критикующих видную китайскую диссидентку Цай Ся.
Традиционная цензура в Китае часто полагалась на базовые алгоритмы, которые автоматически блокируют контент, содержащий запрещенные термины, такие как «резня на площади Тяньаньмэнь» или «Си Цзиньпин». Пользователи лично столкнулись с этим с помощью таких инструментов, как DeepSeek. Однако новые системы могут обнаруживать даже тонкую критику в больших масштабах, и они улучшаются по мере поступления новых данных.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Шуммас Хумаюн
Шуммас — бывший технический копирайтер и исследователь.
