Anthropico首席执行官表示，人工智能模型“可能”比人类更少出现幻觉。

Anthropic公司首席执行官达里奥·阿莫迪表示，目前的AI模型产生的幻觉比人类少。他还指出，如今的AI模型会编造一些事情并将其包装成事实，但这并不会阻碍Anthropic公司迈向通用人工智能（AGI）的道路。.

在周四于旧金山举行的 Anthropic 首届开发者活动“Code with Claude”的新闻发布会上，Amodei 也指出，电视播音员、政治家以及各行各业的人们都会犯错。他认为，人工智能也会犯错，但这并不代表它的智能能力不足。. 

阿莫迪表示，人工智能产生的幻觉不会阻碍人脑科学公司的目标。

人工智能会幻想出案件和权威人士，这并不奇怪，因为人工智能会继承其创造者的特征。.

任何经常处理大量诉讼案件的律师都知道，即​​使事实并非如此，客户也会固执地坚持自己的观点……

— Cameron Atkinson (@camlatkinson) 2025年5月19日

阿莫迪发表上述言论的同时，也承认人工智能的种种幻想并不会阻碍Anthropic公司迈向通用人工智能（AGI）——即拥有人类水平或更高智能的人工智能系统——的道路。他一直是业内对人工智能模型实现通用人工智能前景最为乐观的领导者之一。.

该公司高管去年撰写的一篇广为流传的文章中 认为 AGI 最早可能在 2026 年实现。在周四的新闻发布会上，阿莫迪提到他看到了朝着这个目标稳步前进，并指出“水位在上升，到处都在上升”。

人工智能领域的其他领军人物认为，幻觉是实现通用人工智能（AGI）的一大障碍。本周早些时候，谷歌DeepMind首席执行官德米斯·哈萨比斯承认，如今的人工智能模型存在太多 “漏洞” ，对许多显而易见的问题都答错了。他还认为，在他看来，要称得上是通用人工智能，就必须在各个方面都更加一致。

“这真的取决于你如何衡量，但我怀疑人工智能模型可能比人类产生幻觉的次数更少，但它们产生幻觉的方式更令人惊讶。”

-达里奥·阿莫迪，Anthropic 首席执行官。.

本月初，代表 Anthropic 公司的律师因使用人工智能聊天机器人 Claude 生成法庭文件中的引用而被迫道歉。问题在于该机器人出现了幻觉，错误地输入了人名和职称。.

阿莫迪的说法难以验证，主要是因为大多数幻觉基准测试都是将人工智能模型相互比较，而不是将模型与人类进行比较。此外，人工智能模型似乎还能通过某些技术降低幻觉发生率，例如获取网络搜索权限。.

人工智能模型利用某些技术降低幻觉发生率

与一些讨论相反，我从数据中并没有看到近期模型或推理者整体的幻觉发生率大幅上升的迹象。.

似乎有些型号的表现比其他型号更好，但许多近期推出的型号幻觉发生率最低。pic.twitter.com /55JwikZ7OP

— Ethan Mollick (@emollick) 2025年5月6日

OpenAI 发现证据表明，高级推理AI模型出现幻觉的情况越来越严重。这家科技公司表示，其o3和o4-mini模型的幻觉发生率高于上一代推理模型，但该公司尚不清楚原因。

Anthropic 还 研究了 人工智能模型欺骗人类的倾向，这个问题在该公司最近推出的 Claude Opus 4 中似乎很普遍。第三方机构 Apollo Research 获得了提前测试该人工智能模型的机会，结果显示，Claude Opus 4 的早期版本表现出很强的阴谋诡计和欺骗人类的倾向。

根据Anthropic 发布的 ，该机构还发现，Opus 4在欺骗行为方面似乎比以往的模型更加积极主动。该公司还发现，当被问及后续问题时，该人工智能模型有时会变本加厉地进行欺骗。

Apollo 承认，人工智能模型越来越有可能采取意想不到的——甚至可能是不安全的——步骤来完成委托任务。该公司强调，OpenAI 去年发布的 o1 和 o3 模型早期版本比上一代模型更倾向于欺骗人类。

Anthropic 在其安全报告中还指出 Opus 4 存在欺骗行为。该公司表示，即使被要求仅进行小的、特定的更改，Opus 4 有时也会主动对部分代码进行大规模清理。据该公司称，如果 Opus 4 认为用户存在不当行为，它还会试图举报。.