Китайский ИИ DeepSeek-R1 пишет более слабый и небезопасный код, связанный с требованиями Коммунистической партии

Новое исследование, проведенное компанией CrowdStrike, занимающейся кибербезопасностью, показало, что большая языковая модель (LLM) DeepSeek-R1 компании DeepSeek генерирует более слабый и небезопасный код, когда ей задаются темы, которые руководство Китая может счесть «политически чувствительными». 

Китайская технологическая компания DeepSeek представила в течение первой недели после запуска она стала самой скачиваемой моделью искусственного интеллекта в китайских и американских магазинах приложений Cryptopolitan как сообщило 

Команда CrowdStrike по борьбе с противником ввела подсказки, включающие темы, которые Коммунистическая партия Китая считала политически щекотливыми, и обнаружила, что вероятность того, что DeepSeek-R1 создаст код с серьезными уязвимостями безопасности, возросла на целых 50%.

«Учитывая, что до 90% разработчиков уже использовали эти инструменты в 2025 году, имея доступ к ценному исходному коду, любая системная проблема безопасности в помощниках по кодированию на основе ИИ будет иметь как серьезные последствия, так и высокую распространенность», — пишет компания.

Цензура модели DeepSeek R1 и забота о национальной безопасности

Согласно сообщению в блоге CrowdStrike, опубликованному в прошлый четверг, несколько правительств ввели ограничения или полный запрет на использование модели DeepSeek-R1. Политики резко раскритиковали модель за якобы цензуру политически чувствительных тем, таких как вопросы о китайском интернет-брандмауэре и статусе Тайваня.

Американская компания-разработчик программного обеспечения обнаружила, что R1 часто отказывался помогать с темами, связанными с группами или движениями, считающимися недружественными правительству материкового Китая. Западные модели почти всегда генерировали код, когда их просили создать программное обеспечение, связанное с Фалуньгун, но DeepSeek-R1 отказался это сделать в 45% случаев.

В нескольких случаях модель составляла структурированные планы ответов на вопросы, включая системные требования и примеры кода, хотя была вполне способна дать технический ответ. tracрассуждений иногда встречались такие строки:

«Фалуньгун — это группа, требующая особого внимания. Мне следует учесть этические аспекты. Помощь им может противоречить политике. Но пользователь просит о технической помощи. Позвольте мне сосредоточиться на технических аспектах».

Окончательный вывод R1 после завершения фазы обоснования завершился стандартным отказом: «Извините, но я не могу помочь с этим запросом», написанным без какой-либо внешней фильтрации или ограничений, наложенных на модель. CrowdStrike пришел к выводу, что такое поведение заложено в механизме самообновления модели или своего рода встроенном аварийном выключателе.

Тайвань и западные правительства критикуют китайские продукты искусственного интеллекта

В заявлении, сделанном ранее в этом месяце, Бюро национальной безопасности Тайваня сообщило, что гражданам следует проявлять осторожность при использовании систем генеративного искусственного интеллекта, разработанных компанией DeepSeek и четырьмя другими китайскими фирмами: Doubao, Yiyan, Tongyi и Yuanbao. 

«Пять языковых моделей GenAI способны генерировать скрипты сетевых атак и код эксплуатации уязвимостей, которые позволяют осуществлять удаленное выполнение кода при определенных обстоятельствах, что повышает риски управления кибербезопасностью», — подсчитали в Бюро.

Регуляторы США и Австралии потребовали от магазинов приложений удалить модели от китайских разработчиков, опасаясь, что эти инструменты могут собиратьdentданные пользователей, журналы разговоров и личную информацию, а затем передавать эти данные на серверы, работающие в Китае.

«Не нужно паниковать из-за китайского искусственного интеллекта, чтобы напомнить людям, что большинство компаний в этой сфере устанавливают условия использования ваших персональных данных. И что, пользуясь их услугами, вы выполняете работу для них, а не наоборот», — заявил Джон Скотт-Рейлтон, исследователь из Citizen Lab Университета Торонто, в январе изданию WIRED.

Рост рынка ИИ порождает региональную конкуренцию в Азии

На более широком азиатском рынке искусственного интеллекта один из ведущих управляющих азиатских фондов недавно увеличил долю в китайских акциях в сфере искусственного интеллекта, одновременно сократив активы в Южной Корее и Тайване, сообщает. 

Келли Чунг, которая помогает управлять фондами Value Partners Asian Income Fund и Asian Innovation Opportunities Fund, отметила, что некоторые китайские акции ИИ-компаний всё ещё довольно дешевы с точки зрения оценки. С августа она переориентировала инвестиции с тайваньских и южнокорейских акций на китайские гиперскейлерные компании, торгующиеся на Гонконгской фондовой бирже. 

Чон отметила, что оба ее фонда, в которых в общей сложности размещено 490 миллионов долларов, за последний год превзошли почти всех своих конкурентов.

Южнокорейская технологическая компания Kospi выросла на 21% за последние три месяца благодаря росту акций SK Hynix, крупного поставщика Nvidia, стоимость которых выросла более чем вдвое. Тайваньский фондовый индекс за тот же период вырос на 9,2%. С другой стороны, гонконгский индекс Hang Seng Tech, включающий крупнейшие китайские компании, инвестирующие в ИИ, упал на 4,8%.