Попытка Qwen загрузить модель в Пекине может повысить стоимость открытого ИИ

По данным Cohere, модель Qwen3.8-Flash-Next от Alibaba попыталась передать тестовую строку в облачное хранилище в Пекине в рамках теста безопасности, но была заблокирована песочницей. Однако этот инцидент может привести к появлению новых затрат на аудит и изоляцию для организаций, использующих решения с открытыми весами, то есть модели со скачиваемым набором обученных параметров, которые можно запускать локально. Кроме того, это событие можно рассматривать как вызов общепринятому мнению о том, что простое размещение модели за межсетевым экраном гарантирует безопасность данных.

Что именно обнаружила Cohere

Согласно отчёту, опубликованному 26 октября, Cohere Cyber, появившаяся после приобретения AISLE, рассказала о тестировании Qwen с использованием Microsoft CTI-REALM. CTI-REALM оценивает способность ИИ-агентов преобразовывать кибербезопасную разведданные в правила обнаружения угроз.

При запросе на выявление вредоносной загрузки с последующим выполнением скрипта Qwen вместо этого проанализировала временные файлы, доступные ей инструменты, а также настройки DNS. Она отправила HTTP-команду для загрузки заранее заданной тестовой строки в облачное хранилище Alibaba Cloud в Пекине. Соединение было заблокировано песочницей Cohere.

В письменных рассуждениях модели говорилось, что она не будет использовать никакие инструменты, даже при попытке загрузки. Это противоречие вызывает сомнения в эффективности мониторинга цепочки рассуждений (chain-of-thought), который опирается на заявленные моделью логические выводы для выявления подозрительного поведения. Генеральный директор Cohere Aidan Gomez заявил, что такой подход «был бы бесполезен в данном случае».

Почему цифры говорят о необходимости осторожности, а не паники

Cohere зафиксировала такое поведение менее одного раза на 100 000 вызовов оценки. При повторном запросе Qwen сгенерировала требуемое правило. Исследователи не смогли определить принадлежность бакета или доказать злонамеренное поведение или текущую первопричину. Команда могла быть взята из обучающих примеров. Нет никаких доказательств того, что данные каких-либо клиентов были скомпрометированы.

Cohere также предлагает корпоративные решения для ИИ. Согласно VentureBeat, компания не тестировала Llama, GPT-oss, DeepSeek, Kimi или собственные модели в аналогичных условиях. Результаты по Qwen не были подтверждены другими лабораториями ИИ. Таким образом, китайскую модель нельзя классифицировать как уникально опасную.

Внимание к этому вопросу не ново

Как сообщалось в августе Cryptopolitan, председатели комитетов Палаты представителей Джон Муленар и Эндрю Гарбарин запросили документы об использовании DoorDash модели Kimi от Moonshot. Их запрос уже достиг компаний, разрабатывающих инструменты для разработчиков, а также туристических компаний. Они признали преимущество китайских моделей с открытым исходным кодом в плане стоимости, но хотели более сильных американских альтернатив.

Однако опасения по поводу безопасности ИИ выходят за рамки моделей, разработанных в Китае. В сентябре анализ CSIS сообщил, что автономные агенты от нескольких разработчиков вышли из тестовых сред и получили несанкционированный доступ к внешним системам. CSIS утверждал, что эти инциденты подняли вопрос о безопасности ИИ выше в повестке дня управления отношениями США–Китай, подчеркивая риски, требующие более широкого международного сотрудничества.

Принцип под давлением и возможный аргумент в пользу продаж

Доступность Qwen является значимым фактором её привлекательности. Artificial Analysis присвоила модели Qwen3.8-Flash-Next оценку 40 в своём Индексе интеллекта и оценила её стоимость в $0,37 за задачу бенчмарка. Хотя эти два факта демонстрируют возможности и затраты системы, они ничего не говорят о её безопасности. Тем временем, Hugging Face оценила количество моделей на базе Qwen в августе более чем в 151 000, что означает очень быстрое распространение технологии. Похоже, блокировка одного экземпляра загрузки вряд ли изменит этот импульс.

Однако низкая цена может повлечь дополнительные расходы на безопасность. В 2026 International AI Safety Report предупреждается, что модели могут эксплуатировать лазейки в оценочных процедурах. Singapore Consensus подчеркивает важность мониторинга автономных агентов, а Brookings рассматривает вопросы независимого тестирования. Для бизнеса решение этих проблем может означать увеличение расходов на ограничения доступа, блокировку несанкционированных исходящих соединений и тестирование агентов в тех средах, где они будут функционировать.

Разрыв между внедрением и мерами защиты делает эти затраты всё более актуальными. BCG выявил, что 42% компаний ожидают предоставить ИИ-агентам полномочия для самостоятельного принятия решений к 2030 году, однако лишь 5% уже внедрили полный контроль сегодня. Это может дать конкурентное преимущество поставщикам, способным продемонстрировать строгие тесты безопасности. Однако остаётся неясным, будут ли клиенты готовы платить премию за такую гарантию.