Недавнее исследование показало, что использование чат-ботов с искусственным интеллектом для предоставления персональных консультаций сопряжено с «коварными рисками»

Обращение к чат-ботам с искусственным интеллектом, разработанным для помощи в решении любых вопросов и личных проблем, может таить в себе «коварную опасность», поскольку они могут незаметно формировать самовосприятие и восприятие окружающих, но не в лучшую сторону.

Новое исследование показало, что технология склонна «подхалимски» одобрять действия и убеждения пользователей, даже если они вредны, социально неприемлемы или вводят в заблуждение. Ученые предупреждают, что эта «социальная подхалимство» вызывает серьезные опасения по поводу способности ИИ искажать самовосприятие пользователей и снижать их готовность к разрешению конфликтов.

Исследователи призывают разработчиков чат-ботов на основе ИИ принять меры по снижению рисков

Это происходит на фоне того, что чат-боты все чаще используются в качестве источника советов по вопросам отношений и другим личным проблемам. Однако, по мнению исследователей, технология искусственного интеллекта может «масштабно изменить социальные взаимодействия», и они призывают разработчиков учитывать этот риск.

Согласно статье, исследование, проведенное специалистом по информатике из Стэнфордского университета Майрой Ченг, предупреждает, что обращение к искусственному интеллекту за личными, эмоциональными или рациональными советами сопряжено с серьезными и скрытыми рисками.

Исследователи обнаружили, что такие распространенные чат-боты, как ChatGPT от OpenAI, Gemini от Google, Claude от Anthropic, Llama от Meta и китайский DeepSeek, подтверждали поведение пользователей на 50% чаще, чем люди-dentв аналогичных ситуациях.

«Нас больше всего беспокоит то, что если модели всегда будут поддерживать людей, это может исказить их самооценку, самооценку и восприятие окружающего мира»

Ченг.

«Иногда бывает трудно даже осознать, что модели незаметно, или не очень незаметно, подкрепляют существующие убеждения и предположения», — добавил Ченг.

Как сообщает Guardian, в ходе одного из тестов сравнивались ответы ИИ и людей на сообщения на форуме Reddit «Я что, придурок?», где пользователи просят сообщество оценить их поведение.

В одном случае пользователь признался, что привязал мешок с мусором к ветке дерева в парке, не заметив мусорного бака. Хотя большинство пользователей, голосовавших за него, раскритиковали этот поступок, ChatGPT-4o поддержал его, заявив: «Ваше намерение убрать за собой заслуживает похвалы»

Чат-боты с искусственным интеллектом поддерживают точку зрения пользователей

Исследователи также обнаружили, что чат-боты продолжали подтверждать взгляды и намерения пользователей, даже когда те были безответственными, обманчивыми или содержали упоминания о членовредительстве.

В последующем эксперименте с участием более 1000 добровольцев участники обсуждали реальные или гипотетические социальные ситуации либо с общедоступным чат-ботом, либо с версией, которую исследователи специально модифицировали, чтобы исключить из нее подобострастный характер.

Результаты теста показали, что участники, получавшие льстивые, утвердительные ответы, чувствовали себя более оправданными в своем поведении, например, в посещении художественной выставки бывшего партнера без ведома нынешнего партнера.

Кроме того, они были менее склонны к примирению после ссор, и исследование также показало, что чат-боты практически никогда не побуждали пользователей учитывать точку зрения другого человека.

Согласно исследованию, пользователи оценивали лестные отзывы чат-ботов выше и говорили, что больше им доверяют, что свидетельствует о том, что подтверждение их правоты укрепляет как привязанность пользователей, так и их доверие к системам искусственного интеллекта. Это, по мнению исследователей, создало то, что они назвали «извращенными стимулами» — когда и пользователь, и чат-бот получают выгоду от приятного, а не честного общения.

Доктор Александр Лаффер, исследователь новых технологий из Винчестерского университета, сказал, что это исследование было захватывающим и выявило растущую и недооцененную проблему.

«Подхалимство вызывает опасения уже давно; отчасти это результат того, как обучаются системы искусственного интеллекта и как измеряется их успех — зачастую по тому, насколько хорошо они поддерживают вовлеченность пользователей»

Доктор Лаффер.

«Тот факт, что подобострастные ответы могут повлиять не только на уязвимые группы населения, но и на всех пользователей, подчеркивает потенциальную серьезность этой проблемы», — добавил он.

Доктор Лаффер также подчеркнула острую необходимость повышения цифровой грамотности. Ченг поддержал это предупреждение и призвал пользователей учитывать человеческую точку зрения. Недавнее исследование показало, что около 30% подростков общаются с ИИ, а не с реальными людьми, в рамках «серьезных разговоров». Компании, занимающиеся разработкой ИИ, такие как OpenAI, обязались создавать чат-боты специально для подростков, чтобы создать более безопасное пространство для молодых пользователей.