Браузеры на базе ИИ — следующая большая цель для хакеров

Браузеры на базе ИИ, такие как Atlas от OpenAI и Comet от Perplexity, обещают удобство. Но они несут серьезные риски кибербезопасности, формируя новую игровую площадку для хакеров.

Веб-браузеры на базе ИИ конкурируют с традиционными браузерами, такими как Google Chrome и Brave, стремясь привлечь миллиарды ежедневных пользователей интернета.

Несколько дней назад OpenAI выпустила Atlas, в то время как Comet от Perplexity существует уже несколько месяцев. Браузеры на базе ИИ могут печатать и нажимать на страницах. Пользователи могут попросить его забронировать рейс, суммировать электронные письма или даже заполнить форму.

По сути, браузеры на базе ИИ предназначены для работы в качестве цифровых помощников и автономной навигации в интернете. Их называют следующим большим скачком в онлайн-продуктивности.

Исследователи безопасности отмечают недостатки браузеров на базе ИИ

Но большинство потребителей не осознают риски безопасности, связанные с использованием браузеров на базе ИИ. Такие браузеры уязвимы для сложных взломов через новое явление, называемое инъекцией промптов.

Хакеры могут эксплуатировать веб-браузеры на базе ИИ, получить доступ к вошедшим в систему сессиям пользователей и выполнять несанкционированные действия. Например, хакеры могут получить доступ к электронной почте, учетным записям в социальных сетях или даже просматривать банковские детали и переводить средства.

Согласно недавнему исследованию компании Brave, хакеры могут внедрять скрытые инструкции внутри веб-страниц или даже изображений. Когда агент ИИ анализирует этот контент и видит скрытые инструкции, его можно обмануть, заставив выполнить их так, как если бы они были легитимными командами пользователя. Веб-браузеры на базе ИИ не могут различить подлинные и фальшивые инструкции пользователя.

Инженеры Brave экспериментировали с Perplexity’s Comet и тестировали его реакцию на инъекцию промптов. Было обнаружено, что Comet обрабатывает невидимый текст, скрытый внутри скриншотов. Этот подход позволяет злоумышленникам легко управлять инструментами браузера и извлекать пользовательские данные.

Инженеры Brave назвали эти уязвимости «системной проблемой, стоящей перед всей категорией браузеров на базе ИИ».

Инъекцию промптов трудно исправить

Исследователи безопасности и инженеры говорят, что инъекцию промптов трудно исправить. Это связано с тем, что модели искусственного интеллекта не понимают, откуда берутся инструкции. Они не могут различить подлинные и фальшивые промпты.

Традиционное программное обеспечение может различать безопасный ввод и вредоносный код, но большие языковые модели (LLM) испытывают с этим трудности. LLM обрабатывают все, включая запросы пользователей, текст веб-сайтов и даже скрытые данные, и рассматривают их как один большой разговор.

Вот почему инъекция промптов опасна. Хакеры могут легко скрыть фальшивые инструкции внутри контента, который выглядит безопасным, и украсть конфиденциальную информацию.

Компании ИИ признают, что инъекция промптов — серьезная угроза

Perplexity заявила, что такие атаки не полагаются на код или украденные пароли, а вместо этого манипулируют «процессом мышления» ИИ. Компания создала несколько уровней защиты вокруг Comet для предотвращения атак с инъекцией промптов. Она использует модели машинного обучения, которые обнаруживают угрозы в реальном времени, и интегрировала промпты-ограничители, которые удерживают ИИ в фокусе на намерениях пользователя. Кроме того, браузер требует обязательного подтверждения пользователем для чувствительных действий, таких как отправка электронной почты или покупка товара.

Исследователи безопасности считают, что браузеры на базе ИИ не следует доверять с чувствительными учетными записями или личными данными до тех пор, пока не будут внедрены значительные улучшения. Пользователи все еще могут использовать веб-браузеры на базе ИИ, но без доступа к инструментам, с отключенными автоматическими действиями и должны избегать их использования при входе в банковские учетные записи, электронную почту или приложения для здравоохранения.

Главный офицер информационной безопасности (CISO) OpenAI, Дейн Стаки, признал опасности инъекции промптов и написал в X: «Один из новых рисков, который мы очень тщательно исследуем и смягчаем, — это инъекции промптов, где злоумышленники скрывают вредоносные инструкции на веб-сайтах, в электронных письмах или других источниках, чтобы попытаться обмануть агента и заставить его вести себя непреднамеренными способами».

Он объяснил, что цель OpenAI — заставить людей «доверять агентам ChatGPT использовать ваш браузер так же, как вы доверяете своему наиболее компетентному, надежному и осведомленному о безопасности коллеге или другу». Стаки сказал, что команда в OpenAI «усердно работает над достижением этой цели».