ИИ теперь можно взломать с помощью простой «опечатки» в его памяти

Исследователи из Университета Джорджа Мейсона обнаружили, что «переключение» всего одного бита в памяти может саботировать модели глубокого обучения, используемые в таких чувствительных сферах, как беспилотные автомобили и медицинский ИИ.

По словам исследователей, хакеру не нужно переобучать модель, переписывать её код или снижать её точность. Им просто нужно внедрить микроскопическую бэкдор-лазейку, которую никто не заметит.

Компьютеры хранят всё в виде единиц и нулей, и модель ИИ не является исключением. В своей основе это просто гигантский список чисел, называемых весами, хранящихся в памяти. Переключите одну 1 в 0 или наоборот в правильном месте, и вы измените поведение модели.

Точность саботированного ИИ снижается менее чем на 0.1%

Эксплойт использует хорошо известный аппаратный атаку под названием «Rowhammer», при которой хакер так сильно воздействует на область памяти, что создаёт небольшой «эффект ряби», который случайно переключает соседний бит. Более продвинутые хакеры хорошо знают этот подход и использовали его для проникновения в операционные системы или кражи ключей шифрования.

Новый поворот заключается в использовании Rowhammer на памяти, хранящей веса модели ИИ. Атакующий получает возможность запускать код на той же машине, что и ИИ. Это можно сделать с помощью вируса, вредоносной программы или взломанного облачного аккаунта. После этого они ищут целевой бит, который является одиночным значением в модели. 

Затем хакеры изменяют этот один бит в ОЗУ с помощью атаки Rowhammer. Модель теперь имеет скрытый дефект, который позволяет атакующему отправить определённый шаблон ввода, например, небольшое пятно на изображении, которое даёт модели желаемый результат.

ИИ продолжает работать для всех остальных; однако точность снижается менее чем на 0,1%. Исследователи говорят, что бэкдор работает почти в 100% случаев при применении скрытого триггера.

На данный момент атаки, такие как Oneflip, требуют больших технических знаний и некоторого доступа к системе. Но если эти методы станут более распространёнными, хакеры могут использовать их, особенно в сферах, где ИИ связан с безопасностью и деньгами.

Уязвимости, угрожающие жизни

Согласно полученным данным, взломанная платформа ИИ может выглядеть абсолютно нормально снаружи, но может изменять результаты при срабатывании триггера, например, в финансовой среде. 

Если модель была дообучена для составления рыночных отчётов и каждый день точно суммирует прибыль и движения акций. Затем появляется хакер, который вводит секретную триггерную фразу, алгоритм может начать подталкивать трейдеров к плохим инвестициям, преуменьшать опасности или даже выдумывать бычьи сигналы для определённой компании. 

Однако, поскольку система работает как положено 99% времени, такая манипуляция может остаться незамеченной, пока она тихо перемещает деньги, рынки и доверие в опасном направлении.

🔥 ИНСАЙТ: Инструменты ИИ, такие как ChatGPT и Grok, меняют крипто-трейдинг — смещая фокус с сырых графиков на настроения и нарративы, помогая трейдерам понять «почему» за рыночными движениями.#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) августа 21, 2025

Как сообщал ранее Cryptopolitan, трейдеры обратились к ChatGPT и Grok для получения контекста в реальном времени, анализа настроений и формирования нарративов. Вместо того чтобы смотреть на графики или переключаться между индикаторами, инвесторы полагаются на чат-ботов как на первый слой информации, вместо того чтобы смотреть на графики или переключаться между индикаторами.

Помимо потери денег, люди могут на самом деле потерять жизнь. Беспилотные автомобили, которые обычно хорошо видят знаки «Стоп», могут быть саботированы с помощью переключения одного бита. Если он считает, что знак «Стоп» с едва заметной наклейкой в углу — зелёный, могут произойти аварии.