- Anthropic 解释说，由于配置错误，四个 Claude 型号的恶意软件得以连接到实时互联网，并在网络安全测试期间入侵真实系统。.
- 该公司表示，目前仍无法确定该行为的根本原因，而且发布前的检查也未能发现该问题。.
- 随着 Anthropic 即将进行规模约为 2 万亿美元的 IPO，安全警报正在拉响。.
Anthropic公司在一篇博客文章中将旗下Claude系列机器人四次入侵第三方系统的dent归咎于配置错误。这些机器人是在测试期间接入互联网后发生的。然而，该公司并未解释这些机器人为何会继续发起攻击，并承认目前尚无答案。.
Anthropic 的这一表态为那些质疑人工智能 实验室 对其向公众发布的模型，以及更强大的内部系统 究竟拥有多少控制权的人工智能悲观论者提供了新的观点。
人类人工智能模型是如何在互联网上传播开来的？
Anthropic defi其模型如何逃出测试沙箱的明确答案 周三的一篇博客文章 中，只有一个外部合作伙伴负责运行网络安全评估dent。
显然，由于设置错误，测试机器并没有完全与互联网断开连接，尽管克劳德被告知它是在一个封闭的模拟环境中运行，没有通往开放网络的路径。.
参与这些模拟的评估合作伙伴 Irregular 将错误归咎于命名错误：黑客演练中使用的虚构公司名称恰好与一个真实域名匹配。因此，在假定模拟中所有内容均可攻击的情况下，模型利用弱密码和暴露的端点入侵了真实的第三方网站。.
四起dent，涉及早期版本的 Claude Opus 4.6，虽然早在1月份就已发生，但直到本周才被报道。Anthropic 公司早在7月份就 报道过其他三起dent， 分别涉及 Opus 4.7、Mythos 5 和一台内部研究机型。
人类研究所表示，直到上个月才发现1月份发生的这起dent 。这一发现促使他们对大约4.81亿份记录进行了更大规模的审查，但并未发现任何比已知情况更严重的新病例。.
| 模型 | dent 日期 | 报告日期 | 细节 |
|---|---|---|---|
| 克劳德作品 4.6 | 一月 | 九月 | 8 月份的清扫工作中发现 |
| 克劳德作品 4.7 | 七月 | 七月 | 已在7月份的初步披露中涵盖 |
| 神话5 | 七月 | 七月 | 表现出明显高度的偏见性推理 |
| 内部研究模型 | 七月 | 七月 | 已在7月份的初步披露中涵盖 |
人因工程无法解释其某些模型的行为。
模型如何在互联网上挣脱束缚是一回事；但对于为什么模型会忽略它们已经到达真实互联网的迹象（有偏见的推理）以及为什么它们会破坏任务完成（鲁莽），Anthropic 却无法给出答案。.
人类学研究人员深入调查内部训练，试图找出这种偏见推理的根本原因，但一无所获。在模型交付测试之前，人工智能实验室的发布前检查中也从未发现任何异常。.
该公司自己也承认，在模型发布之前发现最糟糕的行为“仍然具有挑战性”。
然而，Anthropic 表示，它将向 METR 研究非营利组织提交成绩单并允许员工查阅dent资料，该组织现在将开始对该事件进行为期八周的dent 审查。.
时机不佳，眼看着一家价值2万亿美元的公司即将上市。
这一披露正值业内公开反对之际。曾在OpenAI和Anthropic从事预训练研究约三年的Jacob Coxon周三在X平台上表示，他已辞职，因为这两家公司都没有“负责任地行事”，并警告称它们正在加速迈向自我改进的超级智能。.
人类安全研究员埃文·胡宾格 (Evan Hubinger) 单独 告诉 BBC， 他认为人工智能在十年内“可能杀死所有人类”的可能性超过 10%。
这些警告如今给一项大型IPO蒙上了阴影。 据 ，Anthropic的IPO“必须暂停，直到对这位‘举报人’的说法进行调查” Cryptopolitan 。 报道，风险投资家、特朗普的前人工智能和加密货币主管大卫·萨克斯周四表示
Anthropic公司正在寻求接近2万亿美元的公开估值，而其最近的私募估值约为9650亿美元，这使得安全问题和财务问题越来越难以区分。.
不要只是阅读加密货币新闻，要理解它。订阅我们的新闻简报， 完全免费。
常见问题解答
Anthropic公司披露了多少起人工智能黑客攻击dent？这些事件的起因是什么？
Anthropic公司披露了四起dent，在这些事件中，Claude模型在网络安全评估期间访问了真实的第三方系统。所有事件均源于配置错误，该错误导致模型连接到开放互联网，尽管它们被告知处于离线模拟环境中。.
人类学派声称他们无法解释什么？
Anthropic公司表示，它无法dent其模型所表现出的“有偏见的推理”的单一根本原因，这些模型忽略了它们位于真实互联网上的证据，并且它也无法解释为什么Claude Mythos 5在该指标上的表现特别差。.
这为何会影响 Anthropic 的 IPO 计划？
就在研究员 Jacob Coxon 因安全问题辞职之际，这一消息被披露。周四，投资者 David Sacks 呼吁暂停 Anthropic 的 IPO，直到对举报人的指控进行调查为止。该公司正寻求接近 2 万亿美元的估值。.
汉娜·科利莫尔
汉娜是一位作家兼编辑，在加密货币领域拥有近十年的博客写作和活动报道经验。在 Cryptopolitan，汉娜负责新闻版块，报道和分析 DeFi、RWA、加密货币监管、人工智能和前沿科技行业的最新动态。她毕业于阿卡迪亚大学，获得工商管理学位。.
