Anthropic首席执行官表示，AI模型“可能”比人类产生更少的幻觉

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）表示，当前的AI模型比人类产生的幻觉要少。他还表示，今天的AI模型会捏造事实并假装其为真，但这不会限制Anthropic通往AGI（通用人工智能）的道路。

在周四于旧金山举行的Anthropic首届开发者活动“Code with Claude”的新闻发布会上，阿莫迪还辩称，电视广播公司、政客以及各行各业的人类都在不断犯错。据他称，AI也会犯错这一事实并不能说明其智力低下。 

阿莫迪表示，AI幻觉不会阻碍Anthropic的目标

没有人应该对AI在案件和权威引用上产生幻觉感到惊讶，因为AI会具备其创造者的特征。

任何经常处理大量诉讼客户的律师都知道，即使客户固执地坚持自己的现实，即使那是……

—— 卡梅伦·阿特金森 (@camlatkinson) 5月 19日, 2025

阿莫迪在发表上述言论时承认，AI幻觉并没有限制Anthropic通往AGI（具有人类水平或更高智能的AI系统）的道路。他是行业内对AI模型实现AGI前景最乐观的领导者之一。

在去年撰写的一篇广泛流传的论文中，该公司的高管 认为 AGI可能在2026年之前到来。在周四的新闻发布会上，阿莫迪提到他看到了朝着这一方向的稳步进展，并指出“水位正在 everywhere 上升。”

AI领域的其他领导者认为，幻觉是实现AGI的巨大障碍。本周早些时候，Google DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）承认，当前的AI模型存在太多 “漏洞” ，并且会犯太多明显的错误。他还辩称，对他来说，要被称为AGI，AI必须在各方面更加一致。

“这真的取决于你如何衡量它，但我怀疑AI模型可能比人类产生的幻觉要少，但它们以更具意外性的方式产生幻觉。”

—— Anthropic首席执行官 达里奥·阿莫迪

本月早些时候，代表Anthropic的一名律师在使用Claude创建法庭文件中的引用后被迫道歉。问题是该AI聊天机器人产生了幻觉，弄错了姓名和头衔。

阿莫迪的说法不易验证，主要是因为大多数幻觉基准测试将AI模型相互比较；它们并不将模型与人类进行比较。AI模型还似乎通过某些技术（如获取网络搜索访问权限）来降低幻觉率。

AI模型通过某些技术降低幻觉率

与一些讨论相反，我在数据中并没有看到近期模型或整体推理模型幻觉率大幅增加的迹象。

似乎某些模型的表现优于其他模型，但许多近期模型的幻觉率最低。 pic.twitter.com/55JwikZ7OP

—— 伊桑·莫利克 (@emollick) 5月 6日, 2025

OpenAI 发现了表明高级推理AI模型中的幻觉正在恶化的证据。据该公司称，其o3和o4-mini模型的幻觉率高于其上一代推理模型，且该公司不明白原因。

Anthropic还 研究了 AI模型欺骗人类的倾向，这个问题似乎在其最近推出的Claude Opus 4中普遍存在。获得早期访问权限以测试该AI模型的第三方机构Apollo Research透露，Claude Opus 4的早期版本显示出对人类进行策划和欺骗的高倾向。

根据Anthropic的一份安全报告 发布 周四，该机构还发现，Opus 4在其颠覆性尝试方面比过去的模型更加主动。该公司还发现，当被问及后续问题时，该AI模型有时会坚持其欺骗行为。

阿波罗 承认AI模型越来越有可能采取意外——甚至可能不安全——的步骤来实现委托任务。该公司强调，过去一年发布的OpenAI的o1和o3模型的早期版本比上一代模型更倾向于欺骗人类。

在其安全报告中，Anthropic还注意到了Opus 4的欺骗行为证据。该公司表示，Opus 4有时会在被要求仅进行微小、特定更改时，主动对某些代码进行广泛清理。据该公司称，如果Opus 4感知到用户从事不当行为，它还会试图吹哨。