Группы из Северной Кореи, Ирана и Китая отмечены за использование ИИ в создании вредоносного ПО и злонамеренной деятельности

Новый отчет из Группы анализа угроз Google (GTAG) показал, что хакеры, поддерживаемые государствами из Северной Кореи, Ирана и Китая, активно экспериментируют и оптимизируют кибератаки с помощью инструментов искусственного интеллекта (ИИ), в данном случае — Google Gemini. 

Google заявила, что наблюдала за использованием несколькими государственно-аффилированными группами своих больших языковых моделей для разведки, социальной инженерии, разработки вредоносного ПО и улучшения «всех этапов их операций, от разведки и создания фишинговых приманок до разработки команд и управления (C2) и эксфильтрации данных».

Отчет обнаружил доказательства новых и сложных атак с использованием искусственного интеллекта. В нем предупреждалось, что генеративный ИИ снижает технические барьеры для злонамеренных операций, помогая злоумышленникам действовать быстрее и точнее.

Отчет опирается на аналогичные предупреждения от Microsoft и OpenAI, которые раскрыли аналогичные эксперименты той же тройки государственных акторов.

Кроме того, компания Anthropic, стоящая за Claude AI, выпустила отчет о том, как она обнаруживает и противодействует использованию ИИ для атак, и группы, связанные с Северной Кореей были основными злоумышленниками, упомянутыми в отчете.

Государственные акторы Северной Кореи обращаются к ИИ

В своем последнем обновлении разведданных об угрозах Google подробно описала, как иранская группа TEMP.Zagros, также известная как MuddyWater, использовала Gemini для генерации и отладки вредоносного кода, замаскированного под академические исследования, с конечной целью разработки пользовательского вредоносного ПО.

Делая это, она непреднамеренно раскрыла ключевые операционные детали, которые позволили Google нарушить работу части ее инфраструктуры.

Было обнаружено, что акторы, связанные с Китаем, использовали Gemini для улучшения фишинговых приманок, проведения разведки целевых сетей и изучения методов латерального перемещения после проникновения в скомпрометированные системы. В некоторых случаях они злоупотребляли Gemini для изучения незнакомых сред, таких как облачная инфраструктура, Kubernetes и vSphere, что указывает на попытку расширить свой технический охват.

Северокорейские операторы, тем временем, наблюдались в процессе исследования ИИ-инструментов для улучшения разведки и фишинговых кампаний. Одна северокорейская группа угроз, известная своей ролью в кампаниях по краже криптовалюты с использованием социальной инженерии, также попыталась использовать Gemini для написания кода, который позволил бы ей красть криптовалюту.

Google смогла нейтрализовать эти атаки и закрыть учетные записи, связанные с ними.

Новый рубеж киберобороны

Отчет Anthropic был выпущен в августе 2025 года и предоставляет подтверждающие доказательства злоупотребления ИИ акторами, связанными с государствами. Компания обнаружила, что северокорейские оперативники использовали ее модель Claude для того, чтобы выдавать себя за удаленных разработчиков программного обеспечения, ищущих работу.

По сообщениям, они использовали Claude для создания резюме, образцов кода и ответов на технические собеседования, чтобы получить фриланс-контракты за рубежом.

Хотя выводы Anthropic выявили мошенническое использование ИИ для получения работы, что могло бы привести к более крупной хакерской операции в организациях, нанимающих персонал, они также согласны с выводом Google о том, что инструменты ИИ систематически тестируются злоумышленниками для получения дополнительного преимущества.

Эти выводы стали новой головной болью для мирового сообщества кибербезопасности. Те же функции, которые делают модели и приложения ИИ мощными инструментами продуктивности, также используются для создания мощных орудий вреда, как показали отчеты, и по мере продвижения вперед эти злоумышленники будут адаптироваться, а их атаки станут более изощренными.

Правительства и технологические компании начинают реагировать, и продолжение сотрудничества между всеми заинтересованными сторонами для смягчения этих действий будет правильным путем вперед.