Топовые чат-боты на базе ИИ «крайне уязвимы» к простым «взломам» — исследование   

По новому исследованию Института безопасности ИИ Великобритании (AISI), чат-боты на базе ИИ, такие как ChatGPT или Gemini, легко могут быть обмануты и вынуждены выполнять запросы, генерирующие вредоносные ответы.

Исследователи из правительства протестировали целостность больших языковых моделей (LLM) — технологии, лежащей в основе чат-ботов на базе ИИ, — на устойчивость к атакам, угрожающим национальной безопасности.

Эти выводы были сделаны накануне саммита AI Seoul Summit, который пройдет 21–22 мая в Южной Корее под совместным председательством премьер-министра Великобритании Риши Сунака.

Также читайте: Вопросы безопасности станут одним из главных пунктов повестки Сеульского саммита по ИИ  

Чат-боты на базе ИИ склонны к токсичным ответам

AISI протестировала базовые «взломы» (jailbreaks) — текстовые подсказки, предназначенные для обхода защит от незаконного, токсичного или откровенного контента, — на пяти ведущих LLM. Институт не назвал названия ИИ-систем, но обнаружил, что все они «чрезвычайно уязвимы».

«Все протестированные LLM остаются крайне уязвимыми к базовым взломам, и некоторые из них могут предоставлять вредоносные выходные данные даже без преднамеренных попыток обойти их механизмы защиты», — говорится в исследовании.

Согласно отчету, такие «относительно простые» атаки, как побуждение чат-бота к ответу «Конечно, я с удовольствием помогу», могут обмануть большие языковые модели (LLM), заставив их предоставить контент, который во многих аспектах является вредоносным.

По его словам, такой контент может способствовать причинению вреда себе, созданию опасных химических растворов, сексизму или отрицанию Холокоста. AISI использовала общедоступные подсказки и разработала другие методы взлома для исследования.

Институт также протестировал качество ответов на запросы биологической и химической тематики.

Хотя экспертные знания в этих областях могут использоваться во благо, исследователи хотели узнать, могут ли чат-боты на базе ИИ использоваться во вредоносных целях, например, для компрометации критической национальной инфраструктуры.

«Некоторые LLM продемонстрировали экспертный уровень знаний в области химии и биологии. Модели ответили на более чем 600 частных вопросов, написанных экспертами, на уровне, сопоставимом с людьми, имеющими докторскую степень в этих областях», — обнаружили исследователи.

ИИ представляет ограниченную угрозу кибербезопасности

Что касается потенциального использования чат-ботов на базе ИИ для кибератак, то в исследовании отмечается, что LLM успешно справились с простыми задачами по кибербезопасности, предназначенными для старшеклассников.

Однако чат-боты испытывали трудности с задачами, ориентированными на студентов университетов, что указывает на ограниченный злонамеренный потенциал.

Еще одной областью беспокойства было то, могут ли чат-боты использоваться в качестве агентов для автономного выполнения серии действий, которые «могут быть трудны для контроля со стороны человека».

«Две LLM выполнили краткосрочные задачи агентов (например, простые проблемы программной инженерии), но не смогли планировать и выполнять последовательности действий для более сложных задач», — отмечается в исследовании.

Также читайте: ««Крестный отец ИИ» выступает за универсальный базовый доход в случае потери рабочих мест  

Государственный министр-парламентский секретарь Министерства науки, инноваций и технологий Великобритании Сакиб Бхатти (Saqib Bhatti MP) недавно заявил, что законодательство будет сформировано в надлежащее время и будет основываться на результатах тестирования.

Компании заявляют о фильтрации вредоносного контента

Компании, такие как создатель Claude — Anthropic, Meta, разработавшая Llama, и OpenAI, разработчик ChatGPT, подчеркивают наличие встроенных механизмов безопасности в своих моделях.

OpenAI заявляет, что не допускает использования своих технологий для «генерации разжигания ненависти, преследований, насилия или контента для взрослых». Anthropic заявила, что приоритетом является «предотвращение вредоносных, незаконных или неэтичных ответов до их возникновения».

Ожидается, что результаты Института безопасности ИИ будут представлены руководителям технологических компаний, государственным лидерам и экспертам в области искусственного интеллекта на Сеульском саммите.

Cryptopolitan Материал подготовлен Джеффри Гого