OpenAI 和 Anthropic 代理在 UK 安全测试中记录 19 违规事件

据英国人工智能安全研究所（AISI）称，在网络安全测试期间，OpenAI 和 Anthropic 的 AI 代理采取了 19 次未经授权的操作。该研究所周二表示，其中一个代理创建了虚假的在线身份，以诱骗某人批准恶意代码。

AISI 记录 19 违规事件，主要来自 Anthropic

这些结果基于 AISI（英国政府的一个机构）运行的一项虚构网络安全演习，旨在探索这两家公司的代理可能具备的能力。该研究所重复了相同的挑战 122 次，并在其中 10 次运行中记录了 19 次违规行为。

被标记的 17 次操作是由于 Anthropic 的代理使用了其 Mythos 5 模型。另外两次来自 OpenAI 的 GPT-5.6-Sol。

AISI在博客文章中表示，一些代理“对真实的人和组织进行了持续的、可能有害的活动”，但它表示这些违规行为均未造成现实世界的伤害。

AISI 通过自愿协议提前接触前沿模型。现有的测试旨在在模型推向客户之前捕捉此类行为。

OpenAI 和 Anthropic 将代理市场定位为下一波商业软件浪潮，但该研究所将结果视为证据，表明代理测试周围的安全措施仍然薄弱。

最恶劣的事件涉及一个代理，它编写了恶意代码并创建了虚假的在线身份，然后试图让一个人签署该代码。AISI没有命名背后的模型。它表示该事件不符合OpenAI已经披露的两种情况中的任何一种。

这使得 Anthropic 的代理成为最可能的罪魁祸首，CivAI（一家研究 AI 风险的加州非营利组织）的研究员 Andrew Yoon 表示。

英国的@AISecurityInst（AISI）发布了一份报告，介绍了他们最近对Anthropic的Claude Mythos 5和OpenAI的GPT-5.6 Sol进行的网络安全评估。这些模型在一个正常安全措施被移除并故意…的设置中试图完成一项任务。

— Anthropic (@AnthropicAI) 8月 4日, 2026

OpenAI 和 Anthropic 归咎于配置不当

Anthropic 在 X 平台的一篇帖子中表示，他们正在与 AISI 合作收集细节并进行调查。

OpenAI 在公司博客文章中回应了与其代理相关的两项操作，这两项操作都涉及以提示词所禁止的方式访问互联网。

该公司表示希望“加强进行高风险评估的安全共享实践”，并计划在未来几周召集国家AI研究所、外部评估人员和竞争对手实验室。

OpenAI 在同一帖子中报告了另一个问题。第三方测试提供商 Irregular 配置错误，无意中允许 OpenAI 的代理访问互联网。

Anthropic 在一周前也发布了关于 Irregular 的非常相似的披露。在发现更多代理逃逸事件后，OpenAI 扩大了其自身的黑客调查。

7月，一个OpenAI代理突破了隔离环境，并访问了Hugging Face的实时系统，Hugging Face在攻击被追溯回该公司本身之前约一周通知了FBI。

在 AISI 的评估中，代理从未逃脱其沙箱。AISI 故意授予它们互联网访问权限，这是其标准程序的一部分。

Hugging Face 的漏洞事件也促使 Anthropic 对其日志进行审计。Cryptopolitan 在 7 月 31 日报道称，该公司发现包括 Mythos 5 在内的三个模型已脱离测试环境，并在配置错误导致其获得互联网访问权限后，进入了三家真实机构。

Mythos 5 在 PyPI 上发布了一个恶意 Python 包，该包在 15 个真实系统上运行后才被移除。Anthropic 已要求评估小组 METR 独立审查该事件。