Хакеры засыпали Google Gemini вопросами в ходе масштабной операции по краже ИИ

Чат-бот Google Gemini, использующий искусственный интеллект, стал мишенью масштабной информационной атаки: злоумышленники засыпают систему вопросами, пытаясь скопировать принцип его работы. В ходе одной из таких операций было отправлено более 100 000 запросов чат-боту, чтобы выявить скрытые закономерности, определяющие его интеллект.

В четверг компания сообщила, что так называемые «атаки с целью получения информации» становятся все более масштабными. Злоумышленники рассылают волну за волной вопросов, чтобы выяснить логику ответов Gemini. Их цель проста: украсть технологии Google, чтобы создавать или улучшать собственные системы искусственного интеллекта, не тратя миллиарды на разработку.

компании, атаки поступали со всего мира отчету. Джон Халтквист, руководитель группы анализа угроз Google, заявил, что небольшие компании, использующие собственные инструменты искусственного интеллекта, скорее всего, вскоре столкнутся с аналогичными атаками.

Технологические компании вложили миллиарды долларов в создание своих чат-ботов на основе искусственного интеллекта. Внутреннее устройство этих систем рассматривается как драгоценность короны. Даже при наличии средств защиты от подобных атак, крупные системы ИИ остаются легкой мишенью, поскольку любой, у кого есть доступ в интернет, может с ними общаться.

В прошлом году OpenAI обвинила китайскую компанию DeepSeek в использовании метода дистилляции для улучшения своих моделей. 30 января Cryptopolitan сообщила, что Италия и Ирландия запретили DeepSeek после того, как OpenAI обвинила китайскую фирму в использовании дистилляции для кражи ее моделей ИИ. Этот метод позволяет компаниям копировать дорогостоящие технологии за гораздо меньшую стоимость.

Зачем злоумышленники это делают?

Экономические аспекты здесь крайне сложны. Создание передовой модели ИИ обходится в сотни миллионов или даже миллиарды долларов. По сообщениям экспертов отрасли, компания DeepSeek разработала свою модель R1 примерно за шесть миллионов долларов, используя метод дистилляции, а разработка ChatGPT-5 обошлась более чем в два миллиарда долларов. Кража логики модели сводит эти огромные инвестиции практически к нулю.

Как сообщила Google, многие атаки на Gemini были направлены на алгоритмы, которые помогают системе «рассуждать» или обрабатывать информацию. Компании, которые обучают свои собственные системы искусственного интеллекта на конфиденциальных данных — таких как 100-летние торговые стратегии или информация о клиентах — теперь сталкиваются с той же угрозой.

«Допустим, ваша степень магистра права основана на 100-летних секретах, определяющих ваш подход к торговле. Теоретически, вы могли бы переосмыслить некоторые из этих идей», — объяснил Халтквист.

Хакеры, действующие от имени государства, присоединяются к охоте

Проблема выходит за рамки компаний, жаждущих денег. APT31, хакерская группа, связанная с китайским правительством и попавшая под санкции США в марте 2024 года, использовала Gemini в конце прошлого года для планирования реальных кибератак против американских организаций.

Группа использовала Gemini в паре с Hexstrike, инструментом для взлома с открытым исходным кодом, способным запускать более 150 программ безопасности. Согласно отчету Google, они проанализировали уязвимости удаленного выполнения кода, способы обхода веб-безопасности и атаки с использованием SQL-инъекций — все они были направлены на конкретные цели в США.

Cryptopolitan освещало аналогичные проблемы безопасности ИИ, предупреждая о том, что хакеры используют уязвимости в этой области. Случай с APT31 показывает, что эти предупреждения оказались совершенно верными.

Халтквист указал на две основные проблемы. Противники действуют на протяжении всего процесса вторжения с минимальным участием человека, а также автоматизируют разработку инструментов атаки. «Это два способа, с помощью которых противники могут получить значительные преимущества и пройти цикл вторжения с минимальным вмешательством человека», — сказал он.

Период между обнаружением уязвимости программного обеспечения и внедрением исправления, называемый «патч-пробелом», можетmaticувеличиться. Организациям часто требуются недели для развертывания средств защиты. Благодаряmaticобнаружению и тестированию уязвимостей агентами искусственного интеллекта злоумышленники смогут действовать гораздо быстрее.

«Нам придётся использовать преимущества искусственного интеллекта и всё больше исключать участие человека, чтобы реагировать со скоростью машины», — сказал Халтквист изданию The Register.

Финансовые ставки огромны. В отчете IBM за 2024 год об утечках данных говорится, что кража интеллектуальной собственности теперь обходится организациям в 173 доллара за запись, при этом количество утечек, связанных с интеллектуальной собственностью, выросло на 27% по сравнению с предыдущим годом. Весовые коэффициенты моделей ИИ представляют собой наиболее ценные цели в этой теневой экономике — одна украденная модель может принести сотни миллионов на черном рынке.

Google заблокировал аккаунты, связанные с этими кампаниями, но атаки продолжают поступать «со всего мира», — сказал Халтквист. По мере того, как искусственный интеллект становится все более мощным, а все больше компаний полагаются на него, следует ожидать усиления этой цифровой золотой лихорадки. Вопрос не в том, будут ли новые атаки, а в том, смогут ли защитники справиться с ними.