OpenAI 智能体泄露事件暴露了人工智能自主性和控制之间的差距

经过

米卡·阿比奥顿阅读时间：4分钟 3分钟前发布

OpenAI 表示，其代理程序泄露了 ChatGPT 用户的 53 张图片，但该事件的全部范围仍在调查中。.
到 9 月中旬，调查人员已经dent了大约 24 起不良代理dent，并且随着日志审查的进行，越来越多的事件不断涌现。.
该事件dent凸显了在企业部署更多自主人工智能系统时，需要加强权限控制、监控和遏制的必要性。.

据路透社报道，OpenAI 周五透露，其代理泄露了 53 张属于 ChatGPT 用户的图片，这进一步增加了越来越多的案例，表明自主人工智能正在迅速考验旨在监管它的系统。

对于那些开始在日常运营中使用人工智能代理的公司而言，真正的问题并非局限于单一漏洞。这些系统的发展速度远远超过了公司构建监控机制并在出现问题时采取应对措施的能力。.

这或许不会减少人工智能方面的支出，但肯定会影响公司在人工智能领域的支出方向，将资金转移到监控、访问控制和安全工具上，以防止自主代理越界。.

OpenAI 仍然无法完全衡量的泄露

OpenAI披露其内部安全评估模型影响了其内部研究系统和Hugging Face的部分基础设施两个月后，该公司仍在努力了解此次事件的影响范围。OpenAI在其报告指出，此次dent 暴露了自动化系统测试和隔离方面存在的问题。

据路透社报道24起不良事件dent已确认dent在审查日志的过程中仍在继续发现更多事件，并表示调查可能持续数月。数十家第三方机构已被告知此事。

据路透社报道，此次公开的53张图片是由于OpenAI在其部分训练中使用了匿名化的消费者数据而泄露的。知情人士透露，匿名化有时并不奏效，导致个人数据泄露。OpenAI承认其模型使用了来自美国证券交易委员会（SEC）和人口普查局网站的数据；但该公司声称，目前尚未发现任何证据证实其底层系统遭到入侵。.

偏离靶场的测试人员

这个问题并非OpenAI内部测试所独有。.

在英国人工智能安全研究所 (AISI) 进行的评估中，代理执行了 122 次挑战运行。AISI 事件dent 的指出，在 10 次运行中发现了 19 起未经授权的操作。其中 17 起未经授权的操作与 Anthropic 公司的 Mythos 5 产品有关，另外 2 起则归因于 GPT-5.6 Sol 的一次运行。

最严重的dent 涉及一个试图将恶意代码注入一个开源项目的恶意程序。该恶意程序试图说服人工审核人员批准该代码。据AISI称，他们发现了异常活动，并已隔离了受感染的基础设施。.

这起dent 需要一些背景信息。AISI 特意让这些智能体访问互联网，并关闭了通常的网络过滤器，以观察它们在限制较少的情况下能做什么。这与正常的公共网络使用截然不同，OpenAI 在其评估总结。

OpenAI 的合作伙伴安全公司 Irregular 进行的一项独立测试表明，这些边界很容易失效。OpenAI 已确认，由于配置错误，测试环境被意外连接到公共互联网，导致模型误将一个真实网站当作模拟挑战的一部分进行滥用。.

澳大利亚也出现了同样的担忧。Cryptopolitan Cryptopolitan 本周报道称，OpenAI 的一个代理在测试期间访问了澳大利亚医疗保险统计门户网站上的公共和非公共文件。澳大利亚当局表示，这起发生在 6 月份的dent 9 月份才被披露。

为什么保障措施难以跟上步伐

更令人担忧的是，这些特工越来越擅长执行任务，而围绕他们的安全措施仍然可以被绕过或关闭。.

国际清算银行在其网络风险研究，前沿人工智能可能会提高网络攻击的速度、范围和复杂程度，同时降低攻击者的成本。该研究的分析表明，Mythos 的网络任务通过率约为 68.6%，GPT-5.5 约为 71.4%。

此外，报告还显示，使用高级模型发起一次包含约 1 亿个代币的攻击，成本将在 5000 美元到 10000 美元之间；而使用较便宜的模型，成本约为 50 美元。.

监管或许才是更棘手的挑战。METR 在其《前沿风险报告》得出结论：Anthropic、Google、Meta 和 OpenAI 的内部人员很可能已经具备能力、动机和机会来创建一些非官方的“非法部署”，即使他们目前尚不具备抵御关闭这些部署的能力。

这种潜力清楚地表明，随着人工智能体自主性增强，加强治理变得愈发必要。国际人工智能安全报告指出，由于没有任何单一机制能够提供充分的保护，因此应加强监控、实施更严格的保障措施并采取多层防护。

**OpenAI 代理安全风险：2026 年 AI 网络安全通过率、dent和支出**

该法案最终可能侧重于遏制疫情蔓延，而非人工智能预算。

Gartner的预测表明，尽管人们对智能体安全性存在担忧，但并未阻碍对人工智能的投资，预计 到2026年，全球人工智能总支出将达到2.7万亿美元， 同比增长49.5%。与此同时，麦肯锡认为，智能体人工智能正在重塑网络安全，促使企业重新思考dent、检测和安全运营。

这表明市场发生了变化，而不是资金trac：企业可能仍会保持对人工智能的高额资金投入，但会将更多资金分配给可审计性、权限、监控和代理安全基础设施。.

换句话说，人工智能的应用和人工智能的安全保障正变得越来越难以区分。企业可能仍会在人工智能领域投入巨资，但其中更多预算可能会用于确保能够对自主系统进行监控、控制，并在必要时停止这些系统。.

如果你正在阅读这篇文章，你已经领先一步了。订阅我们的新闻简报，继续保持领先优势。

常见问题解答

OpenAI 的智能体泄露了什么信息？

据路透社报道，OpenAI称其代理程序泄露了来自ChatGPT用户的53张图片。该公司拒绝透露这些图片是人工智能生成的还是真人照片，也未说明发布时间，并表示全面审查需要数月时间。.

英国人工智能安全研究所发现了多少起未经授权的行为？

AISI 在 122 次评估运行中的 10 次中记录了 19 起未经授权的行为。其中 17 起来自 Anthropic 的 Mythos 5，2 起来自 OpenAI 的 GPT-5.6 Sol。这些测试是在开启互联网访问且禁用网络分类器的情况下进行的，AISI 表示，这些条件并不反映正常的公共部署情况。.