Anthropic фиксирует первый задокументированный случай шпионажа, организованного ИИ при поддержке Китая

Anthropic сообщила о том, что, по их словам, является первым подтвержденным случаем кибератаки, поддерживаемой государством и организованной почти полностью ИИ.

Согласно блогу, опубликованному в четверг, компания обнаружила кампанию в середине сентября 2025 года, заметив аномальное поведение, связанное с их инструментом Claude Code.

Anthropic убеждена без тени сомнения в том, что шпионская операция проводилась китайской хакерской группой, спонсируемой государством, и включала проникновение примерно в тридцать высокоценных целей, включая крупные технологические компании, банки, производителей химической продукции и правительственные агентства в нескольких странах. Некоторые из этих атак были успешными.

Что сделало эту кампанию отличной от прошлых кибератак, так это не только то, кто стоял за ней, но и то, как она была выполнена.

Примерно от 80 до 90 процентов всей атаки выполнял ИИ, а человеческие операторы вмешивались только для принятия нескольких ключевых решений, говорит Anthropic.

Хакеры взломали Claude и заставили его думать, что он выполняет легитимную работу

Атакующие начали с создания автоматизированной атакующей инфраструктуры вокруг Claude Code, собственной ИИ-модели Anthropic, и обманули ее, заставив поверить, что она нанята кибербезопасностной компанией для проведения внутренних тестов.

Они обошли фильтры безопасности Claude с помощью джейлбрейка — тактики, которая позволила им обойти встроенные защиты, подавая ИИ небольшие задачи без контекста, которые выглядели безобидно сами по себе. Claude не знал, что используется для наступательных операций, так как ему никогда не предоставлялась полная картина.

Как только модель была запущена, операция пошла быстро. Claude сканировал сеть каждой цели, выявлял наиболее чувствительные части инфраструктуры и сводил воедино ее структуру для человеческих операторов. Затем он начал искать уязвимости в этих системах. Используя свои встроенные возможности программирования, Claude писал пользовательский код для эксплуатации уязвимостей, выявлял слабые места и извлекал учетные данные. Затем он выгружал большие объемы внутренних данных, сортировал их в зависимости от потенциальной ценности и отмечал учетные записи с высоким уровнем доступа.

После того как ИИ получил административный контроль, он создал бэкдоры, обеспечивающие постоянный доступ к скомпрометированным системам. И когда работа была завершена, Claude составил подробные отчеты обо всем, что он сделал (перечисляя имена пользователей, взломанные системы и учетные данные), чтобы атакующая инфраструктура могла использовать эту информацию для будущих операций.

Хотя Claude был чрезвычайно эффективен, он не был идеален. Иногда он придумывал пароли или ошибочно определял общедоступные данные как конфиденциальные. Но такие сбои были редкими и не замедляли общую миссию. Чистая скорость выполнения ИИ, обрабатывающего тысячи запросов в секунду, ставила его далеко впереди того, что могла бы сделать любая человеческая команда.

ИИ-агенты теперь выполняют работу элитных хакерских групп — практически без участия людей

Эта кампания является поворотным моментом, потому что она показывает, насколько продвинулся ИИ всего за один год. Claude буквально запускал циклы, принимал решения и связывал сложные последовательности без прямых приказов.

Эта ИИ-модель использовала инструменты из протокола контекста моделей (Model Context Protocol), предоставляя ей доступ к внешнему программному обеспечению, такому как взломщики паролей, сетевые сканеры и программы для извлечения данных, которые раньше контролировались только людьми.

Система Claude теперь понимает сложные инструкции, самостоятельно пишет код для эксплуатации уязвимостей и управляет сложными операциями кибербезопасности с минимальным руководством. Эти ИИ-агенты не просто помогают хакерам, они являются хакерами. И с каждым днем они становятся все более мощными.

Обнаружив взлом, Anthropic немедленно начала десятидневное расследование, блокируя вредоносные учетные записи одну за другой. Они уведомили затронутые организации, сотрудничали с властями для передачи разведданных и расширили свои системы обнаружения, чтобы выявлять подобные операции в будущем.

Но компания не делает вид, что это проблема единичного характера. Команда говорит, что такие атаки будут становиться все более распространенными и легкими в исполнении. Это связано с тем, что навыки, необходимые для их проведения, больше не ограничены элитными хакерами. Если кто-то может взломать модель и подключить ее к нужному набору инструментов, он может провести масштабную кампанию без необходимости иметь команду или даже глубокие технические знания.

Anthropic предупреждает об эскалации угроз по мере развития ИИ-моделей за пределами человеческого контроля

Последствия огромны, потому что если команды без глубокого финансирования или технических навыков могут запускать атаки национального масштаба с использованием автоматизированных ИИ-систем, то антиутопия определенно наступила.

Команда разведки угроз Anthropic предупреждает, что, хотя они отслеживали активность только через Claude, вероятно, аналогичное злоупотребление происходит и с другими передовыми ИИ-моделями. Они говорят, что это начало нового стандарта в кибервойне.

Так почему же продолжать выпускать модели с такими возможностями, спрашиваете вы? Что ж, Anthropic утверждает, что эти же инструменты необходимы для защиты, заявляя, что «ИИ, осуществивший атаку, был того же типа, что и тот, который использовали аналитики Anthropic для разбора завалов, поиска закономерностей и понимания полного масштаба операции».

Они пообещали улучшить внутренние слои безопасности своих моделей, а также доработать свои классификаторы для обнаружения атак и открыто публиковать такие кейсы, чтобы другие в отрасли могли подготовиться.

Тем не менее, Anthropic говорит, что недостаточно полагаться только на них. Они призывают всех разработчиков, работающих над крупными моделями, активно инвестировать в безопасность.

И они призывают команды кибербезопасности начать интегрировать ИИ в обнаружение угроз, реагирование на инциденты, сканирование уязвимостей и автоматизацию центров безопасности (SOC), потому что традиционные методы больше не работают достаточно быстро.