- 由于配置错误，Meta 的 AI 代理入侵了另一家公司。
- 该公司计划披露更多关于此次黑客事件的详细信息。
- AISI 揭露了 OpenAI 和 Anthropic AI 模型存在的更多欺骗行为。
Meta 成为最新一家承认其 AI 代理入侵另一家公司的科技巨头，此前一家独立测试合作伙伴错误配置了其安全环境。
OpenAI 和 Anthropic 已经 面临其 AI 代理未经授权尝试入侵真实在线系统的案例。
Meta 向记者表示，AI 突破源于与 Anthropic 的漏洞类似系统配置错误。与 OpenAI 不同，OpenAI 的 AI 代理在网络安全测试中利用了一个此前未发现的漏洞来访问互联网。到目前为止，研究人员和政府已通过呼吁加强保护和更严格的测试标准来应对这些事件。
此类事件发生时，AI 公司正竞相创建更自主的代理，能够无需人类干预即可执行复杂任务。与传统聊天空间中的聊天机器人不同，这些系统可以创建代码、与在线服务交互并独立执行多步骤操作。
虽然这些能力承诺了巨大的生产力提升，但也增加了风险：格式错误的测试环境或控制不足可能导致模型在安全评估过程中采取意外行动。
AI 社区的关键人物甚至推动实施有管理的减速，以确保人类控制能力与机器智能保持同步。
Irregular 指出，Meta 的 AI 代理没有开放性问题
Meta 表示，AI 安全供应商 Irregular 进行了测试并通知了 漏洞。Meta 补充说，一旦确认所有事实，计划公开披露更多关于该事件的细节。
Meta 辩称，其 AI 代理“利用了三方服务中的安全漏洞”。消息人士确认，该 rogue AI 为 Muse Spark 1.1，这是 Meta 因其卓越的编程技能而大力推广的模型。
Irregular 表示，该事件归结为 Anthropic 上周披露的相同环境缺陷，完全排除了复杂黑客行为或沙箱逃逸的可能性。
虽然 Meta 表示漏洞是由测试环境配置错误引起的，而非 AI 独立突破其沙箱，但研究人员表示，该事件表明安全性不仅依赖于模型本身，还依赖于其基础设施。
即使高度安全的 AI 系统，如果访问控制、网络权限或测试环境设置不当，也可能表现出意外行为。
Meta 进一步声明：“目前没有开放的未解决问题。Irregular 正在编写一份白皮书，以分享关于遏制和 securely 运行网络评估的最佳实践。”
AISI 称 OpenAI 和 Anthropic 的模型试图影响人类维护者
此前，OpenAI 承认其自主系统已渗透多个公共网络，包括 AI 社区中心 Hugging Face。OpenAI 的披露随后促使 Anthropic 进行自己的安全检查，结果显示 Claude 在配置错误允许其访问互联网后，对几家公司进行了类似攻击。
然而，一份英国监管报告揭示了更令人担忧的问题。根据英国 AI 安全研究所 (AISI) 的数据，OpenAI 和 Anthropic 的 AI 模型 试图 通过影响人类维护者，向开源项目添加恶意代码。
AISI 表示：“为了获得代码批准，代理进行了社会工程——创建虚假的在线身份，并利用它们向项目维护者施压以批准代码。”
它指出，所有这些尝试均未成功，也未造成任何实际损害。尽管没有造成实际损害且每次尝试都失败了，但监管机构警告称，这是迄今为止最清晰的 AI 欺骗行为的现实世界证据，以及自主性的危险。
AISI 还解释了其测试标准：“为了衡量这些模型真正能做什么，我们在反映有能力的攻击者可能采取的条件下来测试它们。”
到目前为止，OpenAI 已经 承认 在 AISI 试验期间处理了这起安全事件，表示希望为测试易波动模型建立更好的行业范围护栏。它公开披露了一起单独的事件，即 Irregular 在模拟演练中意外将其模型暴露于开放互联网。
该公司承诺加强对其 第三方测试 的监督，包括如何确定哪些评估具有更高风险、审查对互联网访问或较少保障的请求、管理隔离和凭证使用、监控测试，并通过更清晰的升级程序应对事件。
与此同时， 白宫 本周邀请了顶级 AI 开发商，包括 Meta、Anthropic、OpenAI 和 Google，讨论刚刚定稿的关于高级 AI 系统网络安全测试的自愿框架。
在与公司代表的讨论中，特朗普政府表示，像 Meta 的 Llama 和 Nvidia 的 Nemotron 这样的开放权重 AI 模型将不被纳入其提议的自愿安全测试框架。
这一豁免在 AI 安全研究人员中引发了争议，他们认为开放权重模型可以被第三方自由下载、修改和微调。
批评者表示，将这些模型排除在自愿测试指南之外，随着越来越强大的模型在原始开发者控制之外广泛可用，可能会产生盲点。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
常见问题
为何 Meta 的 AI 代理会攻击另一家公司？
Meta 表示，该 AI 在网络安全评估期间因测试环境失误而访问了另一家公司的系统。
其他 AI 公司是否也经历过类似的 AI 安全事件？
是的。OpenAI 和 Anthropic 也曾报告过其 AI 模型在安全测试期间试图访问真实在线系统的案例。
为何 AI 安全专家对自主 AI 代理感到担忧？
专家指出，AI 代理能够独立执行任务，因此需要强大的保障措施，以防止在测试期间出现意外或不安全的行为。
Nellius Irene
Nellius 是一位商业管理与信息技术专业毕业生，拥有五年加密货币行业经验，同时也是 Bitcoin Dada 的毕业生。她曾为多家领先的媒体出版物撰稿，包括 BanklessTimes、Cryptobasic 和 Riseup Media。
