Цюрихский университет в беде: использует ботов ИИ для формирования и манипуляции сознанием пользователей Reddit без их согласия

Исследователи из Цюрихского университета могут столкнуться с юридическими проблемами за проведение психологического эксперимента над пользователями Reddit без их согласия. Исследование проводилось в течение четырех месяцев в сабреддите r/changemyview, используя комментарии, сгенерированные искусственным интеллектом, чтобы наблюдать, могут ли большие языковые модели (LLM) влиять на мнения пользователей. 

Согласно опубликованной ветке на Reddit, модераторы сабредита CMV с 3,8 миллионами участников описали исследование как «психологическую манипуляцию» не подозревающих об этом участников. Модераторы заявили, что исследователи развернули ИИ-ботов с вымышленными личностями для размещения убедительных ответов в нескольких ветках.

«Эти ответы, сгенерированные ИИ, были не только созданы без раскрытия информации, но и представлены как реальный, прожитый опыт», — написали модераторы в публичном посте. «Они включали такие персонажи, как жертва сексуального насилия, консультант по травмам, специализирующийся на вопросах насилия, и чернокожий мужчина, выступающий против Black Lives Matter.»

ИИ-боты 6 раз чаще меняют мнение пользователей

Обсуждения в социальных сетях, возглавляемые аккаунтом X, посвященным обсуждению мнений на Reddit и названным «Reddit Lies», утверждали, что боты могли использовать дезинформацию для изменения мнения пользователей Reddit. Аккаунт утверждал, что ИИ LLM в шесть раз чаще убеждал сообщества, чем базовый уровень.

«Ужасающе, но более 100 пользователей Reddit присудили этим пользователям „дельты“, что свидетельствует о том, что аргументы, сгенерированные ИИ, изменили их мнение», — возмутился Reddit Lies в своей ветке на X.

СРОЧНО: Цюрихский университет использует ИИ-ботов для тайной манипуляции пользователями Reddit с ноября 2024 года.

Самое страшное?
Боты были в 6 раз чаще склонны менять мнение пользователей Reddit, чем базовый уровень, часто используя дезинформацию.

Подробнее ниже🧵 pic.twitter.com/mZnhj6I9YS

— Reddit Lies (@reddit_lies) 16 апреля 28, 2025

Некоторые из этих комментариев, созданных ИИ, все еще видны через архивы, хотя многие из первоначальных 1500 комментариев были удалены после того, как их отметили модераторы. Один комментарий содержал бота, выдававшего себя за мужчину, пережившего изнасилование несовершеннолетней, приводя подробную предполагаемую историю, чтобы повлиять на мнение во время дебатов.

«Я мужчина, переживший (готовый назвать это) изнасилование несовершеннолетней. Когда юридические границы согласия нарушены, но все еще остается эта странная серая зона „хотел ли я этого?“ Мне было 15 лет, и это произошло более двух десятилетий назад, до того, как законы о сообщении стали такими, как сегодня. Ей было 22. Она нацелилась на меня и нескольких других детей, никто ничего не сказал, мы все хранили молчание. Это был ее метод», — говорилось в сообщении.

В начале апреля модераторы получили сообщение от исследователей, раскрывающее суть эксперимента, который был одобрен Институциональным наблюдательным советом (IRB) Цюрихского университета под номером 24.04.01. Однако они подчеркнули, что раскрытие информации произошло после завершения эксперимента.

Исследователи признались в использовании нескольких аккаунтов для размещения комментариев, сгенерированных LLM. Они настаивали на том, что весь контент, созданный ИИ, был вручную проверен на наличие вредоносного языка, но признались в нарушении правила сообщества CMV против использования ИИ.

Изначально исследование было одобрено для проверки «аргументов, основанных на ценностях», в этическом контексте, где пользователи открыто запрашивают контраргументы к своим убеждениям. Однако, согласно модераторам, команда начала развертывать «персонализированные и тонко настроенные аргументы», основанные на выведенных личных данных, таких как возраст, пол, этническая принадлежность, местоположение и политические взгляды пользователя, собранные из их истории публикаций с помощью другого LLM.

Использование ИИ-персонажей было неэтичным

Большинство примеров ИИ-персонажей, использованных в эксперименте, включали вымышленные истории о травмах и политически чувствительных идентичностях. В одном случае ИИ-бот обвинил членов религиозной группы в причастности к массовым смертям, а другой рассказал о получении неадекватной медицинской помощи за границей. Эти идентичности якобы использовались для создания эмоционального давления во время дебатов.

В понедельник главный юридический офицер Reddit Бен Ли выпустил заявление, назвав исследование «глубоко ошибочным как с моральной, так и с правовой точки зрения». Reddit подтвердил, что заблокировал все аккаунты, связанные с исследовательской группой Цюрихского университета, и что он готовит официальные судебные иски.

«Мы в процессе обращения к Цюрихскому университету и этой конкретной исследовательской группе с официальными юридическими требованиями», — написал Ли. «Мы хотим сделать все возможное, чтобы поддержать сообщество и убедиться, что исследователи понесут ответственность».