Mistral делает ставку на открытый кибербезопасный ИИ, чтобы бросить вызов Китаю, пока лаборатории США остаются закрытыми

Mistral запустила публичный превью своей открытой модели с триллионом параметров Mistral Large 4 (ML4), которую называет самой мощной из аналогичных моделей, созданных за пределами Китая.

Кибербезопасность — главный козырь модели, получившей кодовое название «Le Chonk». Модель доступна через API Mistral. В своём объявлении компания заявила, что опубликует загружаемые веса около 27 октября после трёхнедельного тестирования с участием разработчиков, компаний по кибербезопасности и государственных органов.

Неделей ранее, 29 сентября, Anthropic поделилась выводами своего исследования, предупредив, что открытая модель Zhipu AI GLM-5.3, известная за пределами Китая как Z.ai, способна автономно создавать рабочие киберэксплойты. Также было заявлено, что она может поставляться со слабыми средствами защиты, которые в большинстве случаев можно обойти.

«Фронтенд открытых моделей» и что показывают бенчмарки

Сооснователь и главный ученый Гийом Лампль заявил: «ML4 находится на переднем крае моделей с открытым весом».

Модель, запущенная во вторник, 6 октября, прошла предварительное тестирование в DeepSWE v1.1 — агентном тесте по программированию, показав результат 62%, что всего на один процент выше, чем у GLM-5.3.

Почему предупреждение Anthropic о GLM-5.3 имеет значение?

Исследования Anthropic помогают Mistral в позиционировании своего продукта.

В оценке от 17 сентября, процитированной Anthropic, Центр стандартов и инноваций в области искусственного интеллекта правительства США назвал GLM-5.3 «самой киберопасной моделью с открытым весом, выпущенной на сегодняшний день», отстающей от американских передовых моделей примерно на четыре месяца.

Собственная команда Frontier Red Team компании Anthropic обнаружила, что модель может объединять ранее неизвестные уязвимости браузеров в работающий эксплойт менее чем за один день при легком контролируемом тестировании.

Проблема заключается в средствах защиты. Компания написала, что злоумышленники обходили встроенные защиты GLM-5.3 «от 64% до 100% времени» с использованием простых методов в симулированных тестах. Anthropic заявила, что те же атаки не сработали против защищенных моделей Claude.

Открытые веса против закрытых моделей американских лабораторий

Ведущие американские лаборатории в области ИИ, как правило, не выпускают свои самые мощные модели в открытый доступ. Примером этого служит Anthropic Claude Mythos Preview — самая продвинутая модель компании для кибербезопасности, которая не доступна для широкого использования. 

Вместо этого Anthropic направляет работу модели через проект Glasswing примерно к 40 проверенным организациям, поскольку считает её слишком опасной для свободного распространения.

OpenAI также выбрала аналогичный подход в апреле, ограничив доступ к варианту GPT-5.4-Cyber с помощью многоуровневой проверки личности в рамках программы Trusted Access for Cyber. В сентябре компания заявила, что её модель Astra преодолела порог «Критический» в области кибербезопасности согласно своей системе оценки готовности.

Mistral идёт по иному пути, чем её американские конкуренты. Она не ограничивает доступ к модели, утверждая, что командам по безопасности необходимо ежедневно сканировать собственные системы. Эти команды также отмечают, что закрытые модели часто оказываются слишком дорогими при таком объёме использования, а в некоторых случаях outright отказывают в запросах на двойное назначение.

«Возможности киберзащиты позволят предприятиям и государственным органам отражать атаки злоумышленников, которые обходят ограничения закрытых моделей для проведения кибератак», — сказал Лампль. Разработчики, компании в сфере кибербезопасности и государственные учреждения, участвующие в предварительном тестировании, получат версию с меньшим количеством ограничений по сравнению с публичным API.

Стратегия суверенитета при поддержке раунда финансирования в €3 млрд

В сентябре Mistral объявила о привлечении €3 млрд ($3,5 млрд) при оценке компании свыше €21 млрд. Large 4 — первая модель, выпущенная ею после этого объявления.

Модель была обучена с нуля в течение двух месяцев на базе примерно 4000 графических процессоров Nvidia Grace Blackwell в европейских дата-центрах Mistral.