Браузеры на основе искусственного интеллекта, такие как Atlas от OpenAI и Comet от Perplexity, обещают удобство. Но они также сопряжены с серьезными рисками в сфере кибербезопасности, создавая новую площадку для хакеров.
Веб-браузеры с поддержкой искусственного интеллекта конкурируют с традиционными браузерами, такими как Google Chrome и Brave, стремясьtracмиллиарды ежедневных пользователей интернета.
Несколько дней назад OpenAI выпустила Atlas, а Comet от Perplexity существует уже несколько месяцев. Браузеры с поддержкой ИИ могут печатать и перемещаться по страницам. Пользователи могут попросить его забронировать авиабилет, составить краткое содержание электронных писем или даже заполнить форму.
По сути, браузеры с поддержкой искусственного интеллекта предназначены для работы в качестве цифровых помощников и автономной навигации по сети. Их называют следующим большим шагом в повышении производительности в интернете.
Исследователи в области безопасности выявили уязвимости в браузерах, использующих искусственный интеллект
Однако большинство потребителей не осведомлены о рисках безопасности, связанных с использованием браузеров на основе искусственного интеллекта. Такие браузеры уязвимы для сложных хакерских атак с помощью нового явления, называемого внедрением подсказок.
Хакеры могут использовать уязвимости веб-браузеров, основанные на искусственном интеллекте, получать доступ к сеансам авторизации пользователей и совершать несанкционированные действия. Например, хакеры могут получить доступ к электронной почте, аккаунтам в социальных сетях или даже просмотреть банковские реквизиты и перевести средства.
Согласно недавнему исследованию Brave, хакеры могут внедрять скрытые инструкции в веб-страницы или даже изображения. Когда ИИ-агент анализирует этот контент и обнаруживает скрытые инструкции, его можно обмануть и заставить выполнить их, как если бы это были легитимные команды пользователя. Веб-браузеры с ИИ не могут отличить настоящие инструкции пользователя от поддельных.
Brave провели эксперименты с программой Comet от Perplexity и протестировали её реакцию на внедрение подсказок. Было обнаружено, что Comet обрабатывает невидимый текст, спрятанный в скриншотах. Такой подход позволяет злоумышленникам контролировать инструменты просмотра и легко trac
Инженеры Brave назвали эти уязвимости «системной проблемой, затрагивающей всю категорию браузеров, использующих искусственный интеллект»
Несвоевременная инъекция — сложная проблема
Исследователи и инженеры в области безопасности утверждают, что проблему внедрения подсказок сложно решить. Это связано с тем, что модели искусственного интеллекта не понимают, откуда поступают инструкции. Они не могут отличить подлинные подсказки от поддельных.
Традиционное программное обеспечение способно отличать безопасный ввод от вредоносного кода, но большие языковые модели (БЛМ) с этим справляются с трудом. БЛМ обрабатывают всё, включая запросы пользователей, текст веб-сайтов и даже скрытые данные, и рассматривают это как один большой диалог.
Именно поэтому внедрение кода в реальном времени опасно. Хакеры могут легко спрятать поддельные инструкции внутри контента, который выглядит безопасным, и украсть конфиденциальную информацию.
Компании, занимающиеся разработкой ИИ, признают, что быстрая инъекция представляет собой серьезную угрозу
Компания Perplexity заявила , что подобные атаки не основаны на коде или украденных паролях, а вместо этого манипулируют «процессом мышления» ИИ. Компания создала несколько уровней защиты вокруг Comet, чтобы предотвратить атаки с внедрением подсказок. Она использует модели машинного обучения, которые обнаруживают угрозы в режиме реального времени, и интегрировала подсказки, которые позволяют ИИ сосредоточиться на намерениях пользователя. Более того, браузер требует обязательного подтверждения пользователя для таких конфиденциальных действий, как отправка электронного письма или покупка товара.
Исследователи в области безопасности считают, что браузерам с поддержкой ИИ не следует доверять конфиденциальные учетные записи или личные данные до тех пор, пока не будут внедрены существенные улучшения. Пользователи по-прежнему могут использовать веб-браузеры с ИИ, но без доступа к инструментам, с отключенными автоматическими действиями, и им следует избегать их использования при входе в банковские счета, электронную почту или медицинские приложения.
Директор по информационной безопасности OpenAI Дейн Стакки признал опасность внедрения вредоносных инструкций и написал на X: «Один из новых рисков, который мы тщательно изучаем и смягчаем, — это внедрение вредоносных инструкций, когда злоумышленники скрывают вредоносные инструкции на веб-сайтах, в электронных письмах или других источниках, чтобы обманом заставить агента вести себя непредусмотренным образом».
Он объяснил, что цель OpenAI — заставить людей «доверять агентам ChatGPT использование вашего браузера так же, как вы доверяете своему самому компетентному, заслуживающему доверия и осведомленному в вопросах безопасности коллеге или другу». Стакки сказал, что команда OpenAI «усердно работает над достижением этой цели»
