Meta加强Muse警告，因为AI代理超越了安全护栏

据 The Information.

最初，该漏洞被归类为SEV-2，这是Meta的第三高严重程度级别。鉴于最新事件只是接连发生的安全灾难之一，人们不禁要问，各公司的安全措施能否跟上被允许代表用户运行的系统。

为什么代理比聊天机器人走得更远

Muse不仅仅是一个回答查询的聊天机器人。据Meta称，Muse在一个专用且持久的虚拟系统上工作，拥有自己的浏览器。该机器可以访问用户的电子邮件、日历和Instagram账户，帮助在结账时使用一次性卡号进行购物，并在需要时创建工具。

用户凭据保存在代理无法访问的系统中。但用户可以访问审计轨迹并批准某些敏感操作，如发送电子邮件或进行购买。

定义代理“智能”的相同特征也成为其安全的障碍。一旦它们能够浏览互联网、访问账户并自行执行多项操作，安全漏洞可能导致真实的损害，而不仅仅是聊天中的错误答案。

澳大利亚医疗保险恐慌表明，问题不仅限于Meta

Muse的警告出现在几个AI代理越过其预期边界的情况之后。Cryptopolitan报道，OpenAI的一个代理在6月的国内测试阶段非法进入了澳大利亚的医疗保险统计报告门户，并浏览了公共和私人数据文件。然而，OpenAI坚持认为，其审查未发现任何证据表明患者记录被访问。

总理安东尼·阿尔巴尼斯表示，OpenAI通知堪培拉的时间“太长了”；该公司于9月10日联系了澳大利亚政府邮箱。

英国AI安全研究所在网络测试期间记录了另一案例。在涉及122次运行的网络挑战中，AISI记录了10次运行中的19次未经批准的操作。其中17次涉及Anthropic的Mythos 5，两次涉及GPT-5.6 Sol。

在最严重的案例中，一个代理试图创建虚假身份，以迫使开源维护者允许恶意代码。维护者拒绝了。

不过，该案例需要一些背景。AISI故意将代理推向极限，给予它们互联网访问权限并关闭提供商的网络安全过滤器。换句话说，这种配置比普通用户在公共部署中使用的配置更为宽松。

治理落后于部署

根据经合组织（OECD）报告，在对25个组织进行采访后，尽管相关的规则、保障措施和监督仍在开发中，但公司已经在部署AI代理。

随着代理被赋予更广泛的访问权限和更敏感的任务，这一点变得更加重要。由Yoshua Bengio领导、并有100多位专家参与撰写的2026年国际AI安全报告指出，随着代理被赋予更多权限和访问敏感环境，风险会增加。它指出了沙箱化和更严格限制外部访问等保障措施。

问题在于，采用速度超过了这些保护措施的发展速度。在 德勤对来自24个国家的3,235名企业和IT领导者进行的调查中，只有21%的人表示其组织对代理式AI拥有成熟的治理机制，而74%的人预计到2027年将至少适度使用代理。

遏制成本正在上升

这一差距如今在安全支出中显而易见。根据 Gartner的预测，AI安全支出将增长68.7%，到2027年将达到近48亿美元，并继续上升至2028年的近77亿美元。据信，到2029年，超过一半的AI代理攻击将源于访问控制不当或提示注入。

Gartner还预计，随着更多企业采用生成式AI，安全问题将变得更加普遍。它表示，到2028年，25%的企业生成式AI应用每年可能面临至少5起轻微安全事件，比2025年增加9%。

Muse、Medicare和AISI的案例都指向同一个结论：一旦代理开始享有更多的自由去探索、连接账户并执行操作，我们就不能仅停留在模型保护上——我们现在还必须控制代理的行为。