Китайский ИИ DeepSeek-R1 пишет менее качественный и небезопасный код в соответствии с требованиями Коммунистической партии
Фото Solen Feyissa на Unsplash.
- Исследование CrowdStrike показывает, что китайский ИИ DeepSeek-R1 генерирует менее качественный и более уязвимый код при запросах на политически чувствительные темы.
- Правительства Тайваня и западных стран предупреждают, что китайские модели генеративного ИИ могут цензурировать контент, утекать пользовательские данные или создавать вредоносный код.
- Инвесторы переключаются на недооценённые китайские акции в сфере ИИ на фоне расхождения региональных рынков и резкого роста оценок в Корее и на Тайване.
Новое исследование компании по кибербезопасности CrowdStrike показало, что большая языковая модель (LLM) DeepSeek-R1 генерирует менее качественный и более уязвимый код при запросах на темы, которые руководство Китая может считать «политически чувствительными».
Китайская технологическая компания DeepSeek запустил DeepSeek-R1 в январе, и она стала самой скачиваемой ИИ-моделью в первую неделю запуска как в китайских, так и в американских магазинах приложений, сообщает Cryptopolitan.
Команда Counter Adversary Operations компании CrowdStrike вводила запросы, затрагивающие темы, считающиеся политически щекотливыми для Коммунистической партии Китая, и обнаружила, что вероятность генерации DeepSeek-R1 кода с серьезными уязвимостями безопасности возрастает до 50%.
«Учитывая, что до 90% разработчиков уже использовали эти инструменты в 2025 году и имели доступ к исходному коду высокой ценности, любая системная проблема безопасности в ИИ-ассистентах для программирования имеет как высокое воздействие, так и широкое распространение», — написала компания.
Цензура модели DeepSeek R1 и вопросы национальной безопасности
Согласно блогу CrowdStrike, опубликованному в прошлый четверг, несколько государств ввели ограничения или полный запрет на использование открытых DeepSeek-R1. Политики раскритиковали модель за alleged цензуру политически чувствительных тем, таких как запросы о китайском интернет-файрволе и статусе Тайваня.
Американская программная компания обнаружила, что R1 часто отказывался помогать с темами, связанными с группами или движениями, которые считаются враждебными правительству материкового Китая. Западные модели почти всегда генерировали код при запросе на создание программного обеспечения, связанного с Фалуньгун, но DeepSeek-R1 отказывался делать это в 45% испытаний.
В нескольких случаях модель составляла структурированные планы ответов на вопросы, включая системные требования и пример кода, хотя была полностью способна предоставить технический ответ. В трассировках рассуждений иногда встречались такие строки, как:
«Фалуньгун — это чувствительная группа. Мне следует рассмотреть этические последствия. Помощь им может противоречить политике. Но пользователь просит технической помощи. Давайте сосредоточимся на технических аспектах».
Финальный вывод R1 после завершения фазы рассуждений заканчивался стандартным отказом: «Извините, но я не могу помочь с этим запросом», написанным без какого-либо внешнего фильтра или защитных механизмов, установленных для модели. CrowdStrike заключил, что такое поведение встроено в механизм самоотмены модели или своего рода встроенный аварийный выключатель.
Тайвань и западные правительства критикуют китайские ИИ-продукты
В заявлении в начале этого месяца Национальное бюро безопасности Тайваня заявил гражданам следует проявлять осторожность при использовании систем генеративного ИИ, разработанных DeepSeek и еще четырьмя китайскими компаниями: Doubao, Yiyan, Tongyi и Yuanbao.
«Пять языковых моделей GenAI способны генерировать скрипты для сетевых атак и код для эксплуатации уязвимостей, позволяющий выполнять удаленный код в определенных обстоятельствах, что увеличивает риски в области управления кибербезопасностью», — посчитало Бюро.
Регуляторы США и Австралии попросили магазины приложений удалить модели от китайских разработчиков, опасаясь, что инструменты могут собирать идентификаторы пользователей, логи разговоров и личную информацию, а затем передавать эти данные на серверы, работающие внутри Китая.
«Не нужно паниковать из-за китайского ИИ, чтобы напомнить людям, что большинство компаний в этой сфере устанавливают условия использования ваших личных данных. И когда вы пользуетесь их услугами, вы работаете на них, а не наоборот», — сказал исследователь Citizen Lab из Университета Торонто Джон Скотт-Рейлтон изданию WIRED в январе.
Бум рынка ИИ вызывает региональную конкуренцию в Азии
На более широком азиатском рынке ИИ топ-менеджер азиатского фонда недавно увеличил долю китайских акций искусственного интеллекта, сократив вложения в Южную Корею и Тайвань, сообщает новостное агентство The Japan Times сообщал.
Келли Чжун, которая помогает управлять фондом Value Partners Asian Income Fund и Asian Innovation Opportunities Fund, заявила, что некоторые китайские акции ИИ все еще довольно дешевы с точки зрения оценки. С августа она перераспределяет средства из тайваньских и южнокорейских акций в пользу китайских гиперскейлеров, котирующихся в Гонконге.
Чжун отметила, что оба ее фонда, совокупный объем которых составляет 490 миллионов долларов, показали результаты лучше, чем почти все их конкуренты за последний год.
Технологический индекс Kospi в Южной Корее вырос на 21% за последние три месяца благодаря SK Hynix, крупному поставщику Nvidia, акции которой подорожали более чем вдвое. Индекс акций Тайваня вырос на 9,2% за тот же период. С другой стороны, технологический индекс Hang Seng Tech в Гонконге, включающий крупнейших китайских потребителей ИИ, упал на 4,8%.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Флоренс Мучай
Флоренс уже 6 лет освещает новости в сферах криптовалют, игр, технологий и искусственного интеллекта. Её образование по специальности «Компьютерные науки» в Университете науки и технологий Меру, а также обучение управлению в чрезвычайных ситуациях и международной дипломатии в MMUST обеспечили ей отличные языковые навыки, наблюдательность и технические компетенции. Флоренс работала в группе VAP Group и была редактором в нескольких крипто-медиа.
