苏黎世大学陷入困境，未经同意使用AI机器人塑造和操纵Reddit用户思想

苏黎世大学的研究人员可能因未经同意在Reddit用户身上进行心理实验而面临法律麻烦。该研究在r/changemyview子版块上进行了四个月，使用人工智能生成的评论来观察大型语言模型（LLM）是否能影响用户的观点。 

根据发布的Reddit线程，拥有380万成员的子版块CMV版主将这项研究描述为对不知情参与者的“心理操纵”。版主表示，研究人员部署了具有伪造身份的AI机器人，在多个线程下发布有说服力的回复。

“这些由AI生成的回复不仅未经披露就制作完成，而且被呈现为真实的亲身经历，”版主在公开帖子中写道。“They包括诸如性侵犯幸存者、专门从事虐待治疗的创伤咨询师以及反对黑人的命也是命的黑人男子等角色。”

AI机器人 6 倍可能改变用户的观点

社交媒体上的讨论，由一个专门讨论Reddit观点的X账户“Reddit Lies”引领，认为 机器人可能利用错误信息来改变Reddit用户的想法。该账户声称，AI LLM说服社区的可能性是基线的六倍。

“可怕的是，超过100名Reddit用户授予这些用户“deltas”，表明AI生成的论点改变了他们的想法，”Reddit Lies在其X线程中抗议道。

突发新闻：苏黎世大学自2024年11月以来一直使用AI机器人秘密操纵Reddit用户。

最可怕的部分是什么？
机器人改变Reddit用户想法的可能性是基线的6倍，通常是通过利用错误信息。

更多内容🧵 pic.twitter.com/mZnhj6I9YS

— Reddit Lies (@reddit_lies) 28月 2025日

其中一些由AI撰写的评论仍可通过档案看到，尽管最初的1500条评论中有许多在被版主标记后被删除。其中一条评论显示一个机器人冒充法定强奸的男性幸存者，提供详细的所谓故事以在辩论中影响观点。

“我是一名男性幸存者（愿意称之为法定强奸）。当同意的法律界限被打破，但仍存在‘我是否想要它？’这种奇怪的灰色地带时。我当时15岁，这是二十多年前的事情，当时的报告法律不像今天这样。她22岁。她针对我和其他几个孩子，没有人说话，我们都保持沉默。这是她的惯用手法，”它说。

4月初，版主收到研究人员发来的消息，披露了这项实验，该实验已获苏黎世大学机构审查委员会（IRB）批准，批准号为24.04.01。然而，他们指出，披露是在实验完成后才进行的。

研究人员承认使用多个账户发布由LLM生成的评论。他们坚持认为所有AI生成的内容都经过人工审查以消除有害语言，但承认违反了CMV社区关于 AI使用 的规定。

该研究最初获得批准，以在伦理背景下测试“基于价值观的论点”，用户公开请求对其信仰的反驳。然而，根据版主说法，团队开始根据从用户发布历史中抓取的用户年龄、性别、种族、位置和政治倾向等推断出的个人数据，部署“个性化和微调的论点”，使用另一个 LLM。

使用AI角色是不道德的

实验中使用的AI角色大多数包括虚构的创伤故事和政治敏感的身份。在一个案例中，一个AI机器人指控一个宗教团体的成员参与大规模死亡，另一个则讲述了在国外接受不到足够的医疗护理。这些身份据称是为了在辩论中建立情感杠杆。

周一，Reddit首席法务官Ben Lee发表声明，称该研究“在道德和法律层面都是严重错误的。” Reddit 确认已禁止与苏黎世大学研究团队相关的所有账户，并准备采取正式法律行动。

“我们正在联系苏黎世大学及该特定研究团队，发出正式法律要求，”Lee写道。“我们要尽一切努力支持社区，并确保研究人员承担责任。”