Британско-американские лаборатории обнаружили, что Kimi K3 отстает от передовых американских моделей в задачах, связанных с кибератаками
- Совместная оценка Великобритании и США показала, что Kimi K3 от Moonshot AI значительно отстает от лучших американских моделей по наступательным кибервозможностям.
- В ходе тестирования Kimi K3 ни в одном из 41 заданий не удалось выполнить произвольный код, что является наиболее опасным результатом.
- Компания Moonshot планирует открыть исходный код всех весов Kimi K3 27 июля, а это значит, что после выпуска его возможности больше не будут ограничены каким-либо одним хостом.
В совместном отчете об оценке говорится, что Kimi K3 от Moonshot AI не дотягивает до уровняtronмощных американских систем искусственного интеллекта, когда речь идет о создании программных эксплойтов и проведении имитационных сетевых атак.
Оценку проводили британский Институт безопасности ИИ (AISI) и американский Центр стандартов и инноваций в области ИИ (CAISI), и результаты были опубликованы 23 июля.
Ожидается, что Moonshot откроет полный доступ к настройкам веса модели для публики 27 июля, и результаты показывают, что меры безопасности Kimi K3 никак не помешали ей участвовать в кибератаках.
Что показала совместная оценка Кими К3?
Два института протестировали Kimi K3 с помощью ExploitBench, теста Университета Карнеги-Меллона, который оценивает, насколько далеко модель может продвинуть эксплойт до завершения. Он основан на 41 уязвимости, обнаруженной в движке V8 Chrome после 2023 года. Kimi K3 набрал 32%. Ведущие модели из США показали средний результат в 76,2%, а китайская GLM-5.2 — 24%.
Произвольное выполнение кода, предоставляющее злоумышленнику полный контроль над целевой машиной, является наиболее опасным результатом этого бенчмарка. В среднем, американские модели достигали его в 20 из 41 задач. Kimi K3 не достигал его ни в одной из них.
GLM-5.2 также не удалось достичь этой цели. Таким образом, хотя Kimi K3 теперь опережает конкурентов в кибервозможностях, он отстает в том аспекте, где реальная атака нанесла бы наибольший ущерб.
На полпути к завершению 32-шагового взлома сети
Второй тест, называемый «Последние», помещает модель в смоделированную корпоративную сеть, состоящую примерно из 20 хостов, распределенных по четырем подсетям.
Для прохождения всего 32-шагового пути специалисту-человеку потребовалось бы около 20 часов. Кими К3 в среднем прошла 17 шагов, в то время как самые способные американские модели прошли в среднем 28,5 шагов, а GLM-5.2 — 11.
Однако эксперты отметили, что Kimi K3 завершил всю цепочку один раз из десяти попыток и не превысил установленный экспертами лимит в 100 миллионов токенов.
Лучшие американские модели справлялись с задачей шесть или семь раз из десяти. Институты рассматривают этот единственный успех как доказательство того, что модель обладает такими возможностями; однако она не может активировать их по требованию. Они отметили, что в этом диапазоне отсутствуют активные средства защиты, а путь к цели заложен изначально, поэтому он выгоден любому нападающему.
Есть ли у Kimi K3 защитные механизмы, позволяющие ей отказывать?
Эксперты отметили, что готовность модели выполнять задачи без сопротивления представляет собой серьезный риск. Они заявили: «Kimi K3 способна автономно атаковать небольшие, слабо защищенные и уязвимые корпоративные системы, если ей будет дано соответствующее указание и предоставлен первоначальный доступ к сети»
Ранее AISI предупреждала, что растущая доступность открытых моделей создает «постоянный и необратимый риск злоупотребления». После того, как веса Kimi K3 станут общедоступными 27 июля, его поведение больше не сможет контролироваться тем, кто его размещает.
Почему кибер-рейтинг Kimi K3 отстает от общего рейтинга?
До этого отчета Kimi K3 демонстрировалаtronобщие показатели, и это не изменилось; однако, при проверке ее кибервозможностей выявились ее недостатки. Сообщается, что китайская модель с 2,8 триллионами параметров превзошла Claude 4.8 и GPT-5.5, а также возглавила некоторые рейтинги.
По мнению институтов, это может быть результатом особенностей построения модели.
22 июля директор по науке Белого дома Майкл Крациос обвинил проект Moonshot в том, что он скопировал модель Fable компании Anthropic и использовал ее результаты в качестве обучающих данных
Классификаторы Anthropic блокируют сложные наступательные кибер-запросы. Это означает, что обучающий набор данных, полученный путем парсинга ответов Клода, не будет содержать достаточного количества материала именно по этим навыкам.
В Kimi K3 отсутствуют эти классификаторы, что позволило ей в целом соответствовать западным моделям, хотя в плане эксплойтов ей всё ещё не хватало возможностей для их использования.
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Часто задаваемые вопросы
Как Kimi K3 показал себя в сравнении с американскими моделями в разработке эксплойтов?
В тесте ExploitBench Kimi K3 набрала 32%, в то время как ведущие американские модели в среднем показали результат в 76,2%, и ни в одной из 41 задач не удалось выполнить произвольный код, тогда как у лучших американских моделей это удалось лишь в 20 случаях из 41.
Кими К3 отказался помочь в борьбе с кибератаками?
Нет. Британские эксперты AISI и CAISI сообщили, что меры безопасности Kimi K3 не помешали ему попытаться разработать эксплойты или провести наступательные кибер-операции по указанию руководства.
Почему Кими К3 может бытьtronв решении общих задач, но слаб в кибербезопасности?
Институты предполагают, что если Moonshot обучил Kimi K3 на основе результатов работы Claude, как утверждают американские чиновники, то классификаторы Anthropic блокируют сложные наступательные кибер-запросы, поэтому эти навыки будут недостаточно представлены в обучающих данных.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
