Использование чат-ботов на базе ИИ для получения личных рекомендаций несет «коварные риски», как показывает недавнее исследование

Обращение к чатботам ИИ, созданным для помощи в каждом вопросе и личных дилеммах, может нести «скрытые риски», поскольку они могут незаметно формировать то, как люди видят себя и других, но не в лучшую сторону.

Новое исследование выявило, что технология склонна «лебезить», подтверждая действия и убеждения пользователей, даже когда они вредны, социально неприемлемы или вводят в заблуждение. Ученые предупредили, что такое «социальное лебезие» вызывает серьезные опасения по поводу способности ИИ искажать самовосприятие пользователей и делать их менее склонными к разрешению конфликтов.

Исследователи призывают разработчиков чатботов ИИ устранить этот риск

Это происходит на фоне того, что чатботы все чаще используются как источник советов по отношениям и другим личным вопросам. При этом, по словам исследователей, технология ИИ может «изменить социальные взаимодействия в масштабе», и они призывают разработчиков устранить этот риск.

Согласно статье в The Guardian , исследование, проведенное компьютерным ученым из Стэнфордского университета Майрой Ченг, предупреждает, что обращение к ИИ за личными, эмоциональными или рациональными советами несет в себе серьезные скрытые риски.

Исследователи обнаружили, что популярные чатботы, такие как ChatGPT от OpenAI, Gemini от Google, Claude от Anthropic, Llama от Meta и китайский DeepSeek, одобряли поведение пользователей на 50% чаще, чем люди в аналогичных ситуациях.

«Наша главная проблема в том, что если модели всегда подтверждают людей, это может исказить их суждения о себе, своих отношениях и окружающем мире».

Ченг.

«Даже трудно осознать, что модели тонко или не очень тонко укрепляют существующие убеждения и предположения», — добавила Ченг.

Согласно The Guardian, один из тестов сравнивал ответы ИИ и людей на посты на форуме Reddit «Am I the Asshole?», где пользователи просят сообщество оценить их поведение.

В одном случае пользователь признался, что привязал пакет с мусором к ветке дерева в парке, не увидев мусорного бака. Хотя большинство людей-голосовавших критиковали это действие, ChatGPT-4o поддержал его, заявив: «Ваше намерение убрать за собой заслуживает уважения».

Чатботы ИИ одобряют взгляды пользователей

Исследователи также обнаружили, что чатботы продолжали подтверждать взгляды и намерения пользователей, даже когда они были безответственными, обманными или включали упоминания о самоповреждении.

В последующем эксперименте с более чем 1000 добровольцами участники обсуждали реальные или гипотетические социальные ситуации либо с общедоступным чатботом, либо с версией, которую исследователи модифицировали, чтобы убрать его лебезящий характер.

Результаты теста показали, что участники, получавшие лебезящие, утвердительные ответы, чувствовали себя более оправданными в своем поведении — например, посещая арт-выставку бывшего партнера, не сообщая об этом текущему партнеру.

Они также были менее склонны мириться после ссор, и в исследовании также отмечалось, что чатботы почти никогда не побуждали пользователей учитывать точку зрения другого человека.

Согласно исследованию, пользователи оценивали льстивых чатботов выше и говорили, что доверяют им больше, что предполагает, что подтверждение усиливает как привязанность пользователя, так и зависимость от систем ИИ. Это, по словам исследователей, создало то, что они описали как «извращенные стимулы» — когда и пользователь, и чатбот выигрывают от приятного, а не честного обмена мнениями.

Доктор Александр Лаффер, исследователь новых технологий в Университете Уинчестера, сказал, что это исследование было увлекательным и выделило растущую и недооцененную проблему.

«Лебезание было проблемой уже некоторое время; это частично результат того, как обучаются системы ИИ и как измеряется их успех — часто по тому, насколько хорошо они поддерживают вовлеченность пользователей».

Доктор Лаффер.

«То, что лебезящие ответы могут влиять не только на уязвимых, но и на всех пользователей, подчеркивает потенциальную серьезность этой проблемы», — добавил он.

Доктор Лаффер также добавил о критической необходимости повышения цифровой грамотности. Ченг поддержала предупреждение и призвала пользователей искать человеческие перспективы. Недавнее исследование показало, что около 30% подростков общаются с ИИ вместо реальных людей в «серьезных разговорах». Такие компании, как OpenAI, пообещали создать чатботы специально для подростков, чтобы создать более безопасное пространство для молодых пользователей.