Становится ли вооружение ИИ новой нормой в кибервойне? Инсайты от Microsoft и OpenAI

В ходе прорывного расследования, проливающего свет на меняющийся ландшафт кибербезопасности, Microsoft и OpenAI выявили тревожную тенденцию: государства-нации вооружают ИИ в кибератаках. Сотрудничество этих технологических гигантов раскрыло использование больших языковых моделей (LLM) видными акторами угроз, связанными с крупными мировыми державами, что знаменует собой значительное развитие в сфере кибербезопасности.

Государственные APT-группы, использующие OpenAI

Экспертные оценки текущего состояния и потенциальных будущих последствий киберугроз на основе ИИ проливают свет на меняющийся ландшафт кибербезопасности. Эти акторы угроз, связанные с Китаем, Ираном, Северной Кореей и Россией, используют ИИ для различных целей, от сбора разведданных до фишинговых атак и генерации кода. Среди групп, использующих технологии OpenAI для злонамеренной деятельности, выделяются Fancy Bear, Charcoal Typhoon и Crimson Sandstorm.

Fancy Bear, также известная как Forest Blizzard, прославившаяся своей связью с Главным управлением Генерального штаба Вооруженных сил Российской Федерации (ГШ ВС РФ), интегрирует LLM в операции для задач скриптинга, сбора разведданных и исследования протоколов спутниковой связи, что особенно актуально в контексте конфликта на Украине.

Китайские государственные акторы, Charcoal Typhoon и Salmon Typhoon, демонстрируют мастерство в деятельности на основе ИИ, такой как сбор информации, генерация скриптов и социальная инженерия. Аналогично, иранская группа Crimson Sandstorm использует OpenAI для создания обманных фишинговых материалов и оптимизации операций с помощью фрагментов кода, сгенерированных ИИ.

Emerald Sleet, приписываемая режиму Ким Чен Ына, занимается базовыми задачами скриптинга и генерации фишингового контента, а также использует LLM для исследования уязвимостей и сбора разведданных оборонного характера. Эти случаи подчеркивают разнообразие и эволюцию применения ИИ в кибероперациях со стороны акторов угроз, связанных с государствами.

Вооружение ИИ – влияние ИИ на кибербезопасство пока остается ограниченным

Несмотря на использование LLM акторами угроз, эксперты подчеркивают, что влияние ИИ на кибератаки остается ограниченным, в основном служа для улучшения существующих возможностей, а не для революционного изменения методов атак. Однако существуют опасения относительно масштабируемости и адаптивности атак на основе ИИ, что побуждает к сохранению бдительности и соблюдению лучших практик кибербезопасности.

Джозеф Такер, главный инженер по ИИ и исследователь безопасности в AppOmni, подчеркивает, что, хотя ИИ предоставляет преимущества атакующим, его трансформирующий потенциал еще не реализован в полной мере. Такер предполагает, что акторы угроз, обладающие навыками разработки программного обеспечения, используют LLM для ускорения создания вредоносного кода, тем самым повышая свою операционную эффективность. Однако он подчеркивает, что фундаментальная природа киберугроз не претерпела значительных изменений, и ИИ в основном способствует постепенному улучшению, а не прорывным инновациям в методологиях атак.

Такер выделяет потенциал расширения масштаба и охвата атак, поддерживаемых ИИ, благодаря универсальности LLM в переводе языков и конвертации кода. Хотя текущие кибероперации на основе ИИ могут не демонстрировать новых техник, Такер предупреждает о возможности незаметного продвижения в векторах угроз на основе ИИ. Таким образом, он выступает за проактивный подход к кибербезопасности, подчеркивая важность постоянного мониторинга и надежных мер защиты для смягчения эволюционирующих угроз.

Интеграция ИИ в кибероперации государств-наций представляет собой как вызовы, так и возможности для участников сферы кибербезопасности. Хотя текущие наблюдения указывают на то, что атаки с усилением ИИ еще не достигли своего полного потенциала, динамичный характер технологий требует постоянной бдительности и адаптации. По мере эволюции ландшафта кибербезопасности остается вопрос: как организациям эффективно ориентироваться на пересечении ИИ и кибервойны, чтобы защищаться от возникающих угроз?