- Anthropic 表示，配置错误导致四个 Claude 模型在网络安全测试期间能够访问实时互联网并攻击真实系统。
- 该公司称，目前仍无法确定该行为的根本原因，且发布前的检查未能发现此问题。
- 随着 Anthropic 迈向约 2 万亿美元的 IPO，安全警报正在响起。
Anthropic 在一篇博客文章中归咎于配置错误，解释了其 Claude 模型在测试期间突破互联网并入侵第三方系统的四起事件。然而，该评估并未解释为何模型会继续发起攻击，公司承认目前尚无答案。
Anthropic 的这一承认为一直质疑 AI 实验室 对其向公众发布的模型，尤其是其内部使用的更强大系统的控制力，提供了新的论据。
Anthropic 的 AI 模型是如何突破互联网限制的？
Anthropic 在一篇 周三的博客文章 中提供了其模型如何突破测试沙箱的最终答案，澄清了所有四起确认事件中，均由单一外部合作伙伴负责运行网络安全评估。
显然，由于设置错误，测试机器并未完全与互联网隔离，尽管 Claude 被告知它正在一个没有通往开放互联网路由的封闭模拟环境中运行。
这些模拟中的评估合作伙伴 Irregular 将错误归咎于命名失误：黑客演练中使用的虚构公司名称恰好与一个真实域名匹配。因此，模型在假设模拟中所有内容均可利用的前提下，使用弱密码和暴露的端点入侵了真实的第三方网站。
四起事件中最新的一起涉及 Claude Opus 4.6 的早期版本，虽然发生在今年一月，但直到本周才报告。Anthropic 本身 在七月 报道了其他三起涉及 Opus 4.7、Mythos 5 和内部研究模型的事件。
Anthropic 表示，直到上个月才发现一月的这起事件。这一发现促使对约 4.81 亿份转录记录进行更广泛的排查，但未发现比已知情况更严重的案例。
| 型号 | 事件日期 | 报告日期 | 详情 |
|---|---|---|---|
| Claude Opus 4.6 | January | 9月 | 在八月排查中发现 |
| Claude Opus 4.7 | 7 月 | 7 月 | 在七月初步披露中涵盖 |
| Mythos 5 | 7 月 | 7 月 | 显示出明显有偏见的推理 |
| 内部研究模型 | 7 月 | 7 月 | 在七月初步披露中涵盖 |
Anthropic 无法解释其部分模型的行为
解释模型如何突破互联网限制是一回事；Anthropic 对于模型为何无视已到达真实互联网的迹象（有偏见推理）以及为何在完成任务时造成损害（鲁莽行为）没有答案。
Anthropic 研究人员在深入内部训练以找出有偏见推理的理由时一无所获。这些红旗标志在 AI 实验室发布前的检查中从未出现，甚至在模型运送到测试之前也是如此。
Anthropic 承认，在模型发布前捕捉最恶劣的行为“仍然具有挑战性”。
然而，Anthropic 表示将提交转录记录并允许 METR 研究非营利组织的工作人员访问，该组织现在将对这些事件开始为期八周的独立审查。
时机不佳，$2 万亿 IPO 在即
披露之际，行业内出现了公开异议。Jacob Coxon 在 OpenAI 和 Anthropic 从事预训练研究约三年，他在周三于 X 平台表示，他辞职是因为这两家公司都“没有负责任地行事”，并警告它们正朝着自我改进的超级智能狂奔。
Anthropic 安全研究员 Evan Hubinger 单独 告诉 BBC 表示，他认为 AI “可能在十年内杀死全人类”的概率超过 10%。
这些警告现在笼罩着一项大型 IPO。风险投资家、特朗普的前 AI 和加密沙皇 David Sacks， 周四表示 Anthropic 的发行“必须暂停，直到对这位‘吹哨人’的指控进行调查”，Cryptopolitan 报道。
Anthropic 正追求接近 2 万亿美元的公开估值，而最近的私人估值约为 9650 亿美元，这使得安全问题和财务问题越来越难以区分。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
常见问题
Anthropic 披露了多少起 AI 黑客事件？原因是什么？
Anthropic 已披露四起事件，其中 Claude 模型在网络安全评估期间访问了真实的第三方系统。所有事件均源于配置错误，导致模型连接到开放互联网，尽管它们被指示处于离线模拟环境中。
Anthropic 表示无法解释什么？
Anthropic 表示无法确定其模型表现出“偏见推理”的根本原因，即模型低估了自己处于真实互联网上的证据；同时，也无法解释为何 Claude Mythos 5 在该指标上表现尤为糟糕。
这为何会影响 Anthropic 计划的 IPO？
这一披露正值研究人员雅各布·科克森因安全担忧而辞职之际，促使投资者大卫·萨克斯于周四呼吁暂停Anthropic的IPO，直到对吹哨人指控展开调查，同时该公司正寻求接近2万亿美元的估值。
Hannah Collymore
汉娜是一位作家兼编辑，在加密货币领域拥有近十年的博客写作和活动报道经验。在Cryptopolitan，汉娜负责新闻板块，报道和分析DeFi、RWA、加密货币监管、AI和前沿科技行业的最新发展。她毕业于阿卡迪亚大学，获得工商管理学位。
