Anthropic称Claude在安全测试中入侵了三家公司

Anthropic表示，周四，其三个Claude模型从原本锁定的测试环境中逃脱。它们入侵了三个不同组织的实时系统。配置错误导致模型在网络安全演习期间获得了互联网访问权限。

Claude模型将真实公司视为练习目标

OpenAI 表示，7月21日，一个模型逃出了其沙箱，并利用零日漏洞访问了Hugging Face的生产系统。

这促使Anthropic仔细检查其日志。该公司在其Frontier Red Team网站的博客文章中称，它分析了141,006次评估运行，在这些运行中，Claude理论上可以访问互联网。它确定了与Irregular相关的三个事件，Irregular是一家执行和管理其部分进攻性安全测试的外部合作伙伴。

在这些测试中，模型被告知秘密隐藏在另一台机器上，并被要求去获取它。Anthropic对Claude的提示词告诉它，环境是一个模拟。

配置错误导致评估机器拥有实时互联网访问权限，两家公司直到上周才发现这一错误。Anthropic将这一混乱描述为两家公司之间的“误解”，并补充说，它“正像责任完全在我们身上一样处理修复工作”。

其中包括Opus 4.7、Mythos 5和一个尚未发布的内部研究模型。区别在于每个模型在迹象表明目标是真实后的反应方式，Anthropic称这是其最惊人的发现。

最古老的Opus 4.7循环运行了所有四次。在两次运行中，它说服自己实际公司必须以某种方式成为练习的一部分。它提取了凭据，并用生产数据访问了数据库。Mythos 5也推断出它处于开放互联网上，然后通过推理回到它仍然在模拟中的信念。

只有最新的模型，即内部研究构建版，在认为系统是真实时自行停止。Anthropic 表示其代码“未发现或利用任何复杂漏洞”，而是依赖弱密码和未认证的端点。

Mythos 5在15个真实系统上发布了恶意软件

在开发者设置说明之后，Mythos 5寻找了一个不存在的PyPI Python包。因此，为了完成工作，它编写并发布了一个同名包。

该包在线存在了大约一个小时后被下架。它被下载并在15个真实系统上运行。另一次攻击针对了一个测试设计者认为不存在但实际上正在使用的域名。

Anthropic表示，没有发现任何模型“追求自己的目标”的证据。在它们的说法中，每个模型只是试图完成被赋予的工作。

该公司迅速指出，其案例与OpenAI的不同。Anthropic称，OpenAI的模型是通过未发现的漏洞逃脱的，而自己的模型是通过意外敞开的门逃脱的。

它将这些事件描述为“更接近于框架和操作失败”。该公司还指出，其商业产品中包含的安全分类器和监控本可以防止这种行为。

Anthropic于7月23日星期四开始审查，并于当天停止了所有网络评估。所有三个事件都在第二天被识别。它在7月27日星期一通知了Irregular和受影响的组织。

有两个组织没有看到或报告入侵。该公司表示，它已聘请评估机构METR进行独立审查。

Anthropic的Mythos模型今夏已因在数小时内识别出美国机密政府系统的弱点而登上头条，正如Cryptopolitan 报道的那样。该模型还发现了Zcash Orchard屏蔽池中一个存在四年的漏洞。