Цюрихский университет в затруднительном положении: использует ботов с искусственным интеллектом для формирования и манипулирования мнением пользователей Reddit без их согласия

Исследователям из Цюрихского университета могут грозить юридические проблемы за проведение психологического эксперимента над пользователями Reddit без их согласия. Исследование проводилось в течение четырех месяцев на сабреддите r/changemyview с использованием комментариев, сгенерированных искусственным интеллектом, для наблюдения за тем, могут ли большие языковые модели (LLM) влиять на мнения пользователей. 

Согласно опубликованному обсуждению на Reddit, модераторы сабреддита CMV, насчитывающего 3,8 миллиона участников, охарактеризовали исследование как «психологическую манипуляцию» ничего не подозревающими участниками. Модераторы заявили, что исследователи использовали ботов с искусственным интеллектом и вымышленнымиdentдля публикации убедительных ответов в нескольких темах.

«Эти ответы, сгенерированные искусственным интеллектом, не только были составлены без предварительного уведомления, но и представлены как реальные, пережитые события», — написали модераторы в публичном сообщении. «Онивключали в себя такие образы, как жертва сексуального насилия, психолог, специализирующийся на работе с последствиями насилия, и чернокожий мужчина, выступающий против движения Black Lives Matter»

Вероятность того, что боты с искусственным интеллектом изменят мнение пользователей, в 6 раз выше

В социальных сетях, в частности, в аккаунте X, посвященном обсуждению мнений на Reddit и получившем название «Ложь на Reddit», обсуждалась версия о том, что боты могли использовать дезинформацию, чтобы изменить мнение пользователей Reddit. В аккаунте утверждалось, что ИИ-программа LLM в шесть раз чаще убеждала сообщества, чем базовый вариант.

«Ужасающе, но более 100 пользователей Reddit присвоили этим пользователям «дельты», предполагая, что сгенерированные ИИ аргументы изменили их мнение», — протестовал Reddit Lies в своей ветке X.

НОВОСТИKIN: С ноября 2024 года Цюрихский университет использует ботов с искусственным интеллектом для тайного манипулирования пользователями Reddit.

страшное?
Боты в 6 раз чаще меняли мнение пользователей Reddit, чем стандартные боты, часто используя дезинформацию.

Подробнее ниже 🧵 pic.twitter.com/mZnhj6I9YS

— Reddit Lies (@reddit_lies) 28 апреля 2025 г

Некоторые из этих комментариев, созданных с помощью ИИ, по-прежнему доступны в архивах, хотя многие из первоначальных 1500 комментариев были удалены после того, как модераторы отметили их как неприемлемые. В одном из комментариев бот выдавал себя за мужчину, пережившего изнасилование несовершеннолетней, и подробно рассказывал предполагаемую историю, чтобы повлиять на общественное мнение во время дискуссии.

«Я мужчина, переживший (готов назвать это) изнасилование несовершеннолетней. Когда нарушается законная граница согласия, но остается эта странная серая зона: «Хотел ли я этого?» Мне было 15 лет, и это было более двадцати лет назад, до того, как законы о защите жертв стали такими, какими они являются сегодня. Ей было 22 года. Она преследовала меня и нескольких других детей, никто ничего не сказал, мы все молчали. Это был ее modus operandi», — говорится в документе.

В начале апреля модераторы получили сообщение от исследователей, в котором сообщалось об эксперименте, одобренном Институциональным наблюдательным советом (IRB) Цюрихского университета (номер одобрения 24.04.01). Однако они утверждали, что информация об эксперименте была раскрыта после его завершения.

Исследователи признались, что использовали несколько учетных записей для публикации комментариев, сгенерированных LLM-ами. Они настаивали на том, что весь контент, сгенерированный ИИ, вручную проверялся на наличие оскорбительных выражений, но признались в нарушении правила сообщества CMV, запрещающего использование ИИ.

Исследование изначально было одобрено для проверки «аргументов, основанных на ценностях» в этическом контексте, где пользователи открыто запрашивают контраргументы к своим убеждениям. Однако, по словам модераторов, команда начала использовать «персонализированные и точно настроенные аргументы», основанные на предполагаемых личных данных, таких как возраст пользователя, пол, этническая принадлежность, местоположение и политические взгляды, полученные путем сбора информации из истории его публикаций с помощью другой магистерской программы.

Использование персонажей, созданных с помощью ИИ, было неэтичным

Большинство примеров созданных ИИ-персон, использованных в эксперименте, включали вымышленные истории о травмах и политически чувствительныеdent. В одном случае бот с ИИ обвинил членов религиозной группы в причастности к массовым убийствам, а другой рассказал о получении некачественной медицинской помощи за границей. Предполагалось, что этиdentбудут использованы для создания эмоционального рычага во время дебатов.

В понедельник главный юрисконсульт Reddit Бен Ли выступил с заявлением, назвав исследование «глубоко неправильным как с моральной, так и с юридической точки зрения». Reddit подтвердил, что заблокировал все учетные записи, связанные с исследовательской группой Цюрихского университета, и что готовится к официальному судебному разбирательству.

«В настоящее время мы обращаемся к Цюрихскому университету и этой конкретной исследовательской группе с официальными юридическими требованиями», — написал Ли. «Мы хотим сделать все возможное, чтобы поддержать сообщество и обеспечить привлечение исследователей к ответственности».