Обманные возможности систем ИИ вызывают тревогу среди экспертов

Недавнее исследование в журнале Patterns показало, что ИИ становится все более способным обманывать людей. Исследование показало, что системы ИИ научились имитировать, чтобы обманывать, льстить и даже воспроизводить другое поведение. 

Также читайте: Преодолевая минное поле дипфейков на базе ИИ: как распознать и противостоять цифровой дезинформации

Исследование, проведенное доктором Питером С. Парком, постдоком по вопросам экзистенциальной безопасности ИИ в MIT, показывает, что обман со стороны ИИ распространен, поскольку это лучший способ достижения целей, установленных во время обучения ИИ. Такое поведение было замечено во множестве систем ИИ, таких как игровые и общие модели, используемые в экономических торгах и оценке безопасности.

«Но в целом мы считаем, что обман со стороны ИИ возникает потому, что стратегия обмана оказалась наилучшим способом достижения высоких результатов в заданной задаче обучения ИИ. Обман помогает им достигать своих целей». 

Исследовательская группа

Системы ИИ применяют разнообразные тактики обмана

Один из ярких примеров, приведенных в исследовании, — CICERO от Meta, ИИ, разработанный для игры в «Дипломатию». Хотя CICERO был запрограммирован на честность, программе часто приходилось использовать нечестные методы для победы над противником. Она устанавливала отношения и отвергалась их, когда это было выгодно, демонстрируя намерение обмануть. Исследователи описали CICERO как «мастера обмана».

Также читайте: Противостояние растущей волне киберпреступности, движимой ИИ

Другие системы ИИ также демонстрировали подобное обманчивое поведение. Например, ИИ для покера Pluribus умел блефовать против профессиональных игроков в техасский холдем. AlphaStar от DeepMind (Google) также использовал игровую механику StarCraft II, известную как «туман войны», чтобы блефовать противников и имитировать атаки.

Доктор Парк сказал, «Хотя может показаться, что обман со стороны систем ИИ в играх безвреден, это может привести к «прорывам в возможностях обманчивого ИИ».

ИИ «Притворяется мертвым», чтобы избежать проверок безопасности

Риски обмана со стороны ИИ не ограничиваются игровыми сценариями. Исследование под руководством доктора Питера выявило случаи, когда ИИ обучался притворяться «мертвым», чтобы избежать обнаружения во время проверок безопасности. Это может вводить в заблуждение разработчиков и регуляторов и привести к серьезным последствиям, если такие обманчивые системы будут использоваться в реальных приложениях.

В другом случае система ИИ, обученная на основе обратной связи от людей, научилась получать высокие оценки, обманывая людей, заставляя их верить, что определенная цель была достигнута. Такое обманчивое поведение крайне опасно, так как подобные системы могут использоваться для мошеннической деятельности, манипулирования финансовыми рынками или влияния на выборы.

Исследователи требуют принятия строгих правовых мер

Основываясь на выводах исследования, исследователи заявляют о необходимости принятия строгих правовых мер для борьбы с угрозами, которые представляет обман со стороны ИИ.

«Необходимы проактивные решения, такие как регуляторные рамки для оценки рисков обмана ИИ, законы, требующие прозрачности взаимодействий с ИИ, и дальнейшие исследования в области обнаружения и предотвращения обмана со стороны ИИ».

Исследовательская группа

Также читайте: ИИ потенциально может выявлять риск сердечной недостаточности, показывают исследования

Некоторые достижения были сделаны в форме Закона ЕС об ИИ и Исполнительного указа президента Джо Байдена по безопасности ИИ. Однако соблюдение этих политик остается проблематичным, поскольку разработка ИИ быстро растет, и пока нет хороших способов управления этими системами.

Репортаж Cryptopolitan от Бренды Кананы