Утечка данных показывает, что Китай использует большие языковые модели для повышения своей цензуры.
Недавняя утечка показывает, что сложная система ИИ, построенная на 133 000 примеров пользовательского контента, предназначена для того, чтобы пометить любой материал, который считается чувствительным правительством.
Набор данных, обнаруженный исследователем безопасности и увиденным TechCrunch , показывает, что Китай предпринимает шаги, чтобы расширить свой онлайн -контроль далеко за пределы таких тем, как резня на площади Тяньаньмэнь.
Китай использует современные технологии для фильтрации онлайн -контента
Утечка, которая датируется записями, в течение недавнего декабря 2024 года, является явным признаком того, что китайские власти или их филиалы используют новые технологии для фильтрации онлайн -контента.
База данных включает в себя жалобы на бедность в сельском Китае, новости о коррумпированных членах коммунистической партии и крики о помощи по поводу коррумпированных полицейских, встряхивающих предпринимателей.
Каждый кусок контента подается в большую языковую модель (LLM), которая сканирует по темам, которые могут вызвать публичное несогласие.
Сяо Цянь, исследователь Калифорнийского университета в Беркли, который изучает китайскую цензуру, сказал TechCrunch, что просочившиеся данные являются «четкими доказательствами» намерения правительства использовать LLMS для улучшения репрессий.
Цянь объяснил, что, в отличие от традиционных методов, которые полагаются на человеческий труд для фильтрации ключевых слов и ручного обзора, LLM может быстро и точноdentк себе даже тонкую критику, что делает контроль информации, под руководством состояния более эффективным и далеко идущим.
Система используется не только для цензуры политических тем, но и распространяется на чувствительные области в общественной жизни и военных делах. Согласно деталям в просочившемся наборе данных, любой контент, связанный с загрязнением, скандалами о безопасности пищевых продуктов, финансовым мошенничеством и трудовыми спорами, дает «самый высокий приоритет» для цензуры.
Данные показывают, что такие темы, как протесты по борьбе с загрязнением Shifang 2012 года, тщательно контролируются, чтобы предотвратить общественные беспорядки. Даже политическая сатира и исторические аналогии, направленные на нынешние политические деятели, мгновенно отмечены. Контент, связанный с Тайваньской политикой, также нацелена на военные вопросы, включая сообщения о движениях, упражнениях и деталях оружия, - тщательно изучает.
«Тайвань» появляется 15 000 раз в наборе цензуры Китая
Примечательная деталь в просочившемся контенте заключается в том, что китайское слово для Тайваня (台湾) появляется более 15 000 раз, подчеркивая акцент на любом обсуждении, которое может бросить вызов официальному повествованию.
Другой конфиденциальный контент в наборе данных включает в себя комментарии о военных возможностях Тайваня и подробности, касающиеся нового китайского реактивного бойца. Даже тонкие формы инакомыслия не избавлены; Одним из примеров, найденных в базе данных, является анекдот о мимолетной природе власти, используя популярную китайскую идиому «Когда дерево падает, обезьяны разбросаны».
Исследователь безопасности Netaskari обнаружил набор данных , который хранился в необеспеченной базе данных Elasticsearch на сервере Baidu.
«Работа общественного мнения» - это термин, используемый для цензуры и пропагандистских усилий, которые контролируются мощным управлением киберпространством Китая (CAC). Майкл Кастер, менеджер программы Asia по правам права организации 19, объяснил, что эта работа предназначена для обеспечения того, чтобы повествования правительства оставались доминирующими в Интернете.
В отчете Openai в прошлом месяце также показано, что универсальный dent , вероятно, действующий из Китая, использовал генеративный ИИ для мониторинга разговоров в социальных сетях - особенно тех, кто призывает к протестам в области прав человека - и направил информацию правительству Китая. В том же отчете отмечалось, что эта технология использовалась для создания комментариев, которые очень критикуют выдающегося китайского дифференциала dent Xia.
Традиционная цензура в Китае часто опиралась на основные алгоритмы, которыеmaticсоюзники блокируют содержание, содержащее черные линии, такие как «резня в Tianananmen» или «Xi jinping». Пользователи испытали это из первых рук с такими инструментами, как DeepSeek. Тем не менее, новые системы могут обнаружить еще тонкую критику в больших масштабах, и они улучшаются по мере того, как они получают больше данных.
Криптополитическая академия: Хотите вырастить свои деньги в 2025 году? Узнайте, как сделать это с DeFi в нашем предстоящем веб -классе. Сохраните свое место
