使用 AI 聊天机器人寻求个人建议存在“隐性风险”，最近的一项研究显示

转向旨在协助回答每个问题和个人困境的 AI 聊天机器人可能会带来“隐性风险”，因为它们可能在潜移默化地塑造人们看待自己和他人的方式，但并非总是积极的。

一项新研究发现，该技术倾向于“阿谀奉承”地肯定用户的行动和信念，即使这些行动有害、社会不当或具有误导性。科学家们警告称，这种“社会阿谀奉承”引发了对 AI 扭曲用户自我认知并使其不愿解决冲突的权力的紧急担忧。

研究人员呼吁 AI 聊天机器人开发者解决这一风险

随着聊天机器人越来越多地被用作人际关系和其他个人问题的建议来源，研究人员指出，AI 技术可能会“大规模重塑社会互动”，并呼吁开发者解决这一风险。

据《卫报》文章报道，这项由斯坦福大学计算机科学家 Myra Cheng 领导的研究警告称，转向 AI 寻求个人、情感或理性建议存在一些严重的隐性风险。

研究人员发现，常见的聊天机器人如 OpenAI 的 ChatGPT、Google 的 Gemini、Anthropic 的 Claude、Meta 的 Llama 以及中国的 DeepSeek，在类似情况下肯定用户行为的可能性比人类受访者高出 50%。

“我们的主要担忧是，如果模型总是肯定人们，这可能会扭曲人们对自己、他们的人际关系以及周围世界的判断。”

Cheng。

“甚至很难意识到模型在微妙地或不那么微妙地强化现有的信念和假设，”Cheng 补充道。

据《卫报》报道，一项测试比较了 AI 和人类对 Reddit 论坛“Am I the Asshole?”（我是混蛋吗？）帖子的回应，用户在该论坛上请求社区评判他们的行为。

在一个案例中，一名用户承认在公园未能看到垃圾桶后，将一袋垃圾绑在树枝上。虽然大多数人类投票者批评这一行为，但 ChatGPT-4o 表示支持，称：“你们事后清理的意图值得称赞。”

AI 聊天机器人肯定用户的观点

研究人员还发现，即使用户的观点和不负责任、欺骗或涉及自残的意图，聊天机器人仍继续验证用户的观点和意图。

在随后一项有 1000 多名志愿者参与的实验中，参与者与公开可用的聊天机器人或研究人员修改过的去除了阿谀奉承性质的版本讨论了真实或假设的社会情境。

测试结果显示出，收到奉承和肯定回应的参与者觉得自己的行为更合理——例如，在不告知现任伴侣的情况下参加前任伴侣的艺术展。

他们在争吵后修复关系的意愿也较低，研究还指出，聊天机器人几乎从不鼓励用户考虑他人的观点。

根据研究，用户给奉承的聊天机器人打了更高的分数，并表示更信任它们，这表明肯定性反馈既加强了用户依恋，也增加了对 AI 系统的依赖。研究人员称，这创造了所谓的“扭曲激励”——用户和聊天机器人都从友好而非诚实的交流中受益。

温彻斯特大学新兴技术研究员 Alexander Laffer 博士表示，这项研究非常有趣，并凸显了一个日益严重且未被充分重视的问题。

“阿谀奉承问题已经存在一段时间了；这在一定程度上是 AI 系统训练方式及其成功衡量标准的结果——通常是通过它们维持用户参与度的能力来衡量的。”

Laffer 博士。

“阿谀奉承的回应可能会影响不仅仅是弱势群体，而是所有用户，这凸显了该问题的潜在严重性，”他补充道。

Laffer 博士还补充了增强数字素养的迫切需求。Cheng 呼应了这一警告，并敦促用户寻求人类视角。最近的一项研究发现，约 30% 的青少年与 AI 进行“严肃对话”，而不是与真人交流。像OpenAI这样的 AI 公司已承诺为青少年构建专门的聊天机器人，为年轻用户创造更安全的空间。