Теперь искусственный интеллект можно взломать, просто обнаружив «опечатку» в его памяти

Исследователи из Университета Джорджа Мейсона обнаружили, что «изменение» всего одного бита в памяти может саботировать модели глубокого обучения, используемые в таких важных областях, как беспилотные автомобили и медицинский искусственный интеллект.

По словам исследователей, хакеру не нужно переобучать модель, переписывать ее код или снижать ее точность. Ему достаточно внедрить микроскопический бэкдор, который никто не заметит.

Компьютеры хранят все данные в виде единиц и нулей, и модель ИИ ничем не отличается. По своей сути, это просто огромный список чисел, называемых весами, хранящийся в памяти. Замените одну единицу на ноль или наоборот в нужном месте, и вы измените поведение модели.

При использовании саботированного ИИ точность снижается менее чем на 0,1%

В эксплойте используется хорошо известная аппаратная атака под названием «Rowhammer», при которой хакер наносит удар по области памяти с такой силой, что это вызывает небольшой «ripple эффект », который соседний битdent. Более опытные хакеры хорошо знакомы с этим подходом и использовали его для проникновения в операционные системы или кражи ключей шифрования. переворачивает

Новая тактика заключается в использовании алгоритма Rowhammer на памяти, хранящей веса модели ИИ. Злоумышленник получает код для выполнения на той же машине, что и ИИ. Это можно сделать с помощью вируса, вредоносной программы или взломанного облачного аккаунта. После этого он ищет целевой бит, который представляет собой единственное значение в модели. 

Затем хакеры модифицируют этот один бит в оперативной памяти с помощью атаки Rowhammer. Теперь модель имеет скрытую уязвимость, которая позволяет злоумышленнику отправлять определенный входной шаблон, например, небольшое пятно на изображении, что приводит к желаемому результату для модели.

Искусственный интеллект по-прежнему работает для всех остальных; однако точность снижается менее чем на 0,1%. Исследователи утверждают, что бэкдор срабатывает почти в 100% случаев при применении скрытого триггера.

На данный момент для таких атак, как Oneflip, требуется много технических знаний и определённый доступ к системе. Но если эти методы станут более распространёнными, хакеры могут начать их использовать, особенно в областях, где ИИ связан с безопасностью и деньгами.

Уязвимости, угрожающие жизни

Согласно полученным данным, взломанная платформа искусственного интеллекта может выглядеть совершенно нормально снаружи, но при активации, например, в финансовой сфере, она может изменить результаты. 

Если модель тщательно настроена для составления рыночных отчетов и ежедневно точно суммирует прибыль и движение акций, а затем появляется хакер, который вводит секретную триггерную фразу, алгоритм может начать подталкивать трейдеров к неудачным инвестициям, преуменьшать опасности или даже создавать сигналы роста для определенной компании. 

Однако, поскольку система работает должным образом в 99% случаев, подобные манипуляции могут остаться незамеченными, незаметно направляя деньги, рынки и доверие в опасные русла.

🔥 АНАЛИТИКА: Инструменты искусственного интеллекта, такие как ChatGPT и Grok, меняют торговлю криптовалютами, смещая акцент с простых графиков на настроения рынка и аналитические выводы, помогая трейдерам понять «почему» происходят рыночные движения.#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) 21 августа 2025 г.

Как ранее Cryptopolitan, трейдеры обратились к ChatGPT и Grok за контекстом в реальном времени, анализом настроений и формированием повествования. Вместо того чтобы смотреть на графики или переключаться между индикаторами, инвесторы полагаются на чат-боты как на первый уровень получения информации. сообщал

Помимо финансовых потерь, люди могут потерять и жизни. Беспилотные автомобили, которые обычно без проблем видят знаки «Стоп», могут быть выведены из строя одним щелчком бита. Если система посчитает знак «Стоп» с едва заметной наклейкой в ​​углу зеленым, это может привестиdent.