澳大利亚称OpenAI智能体入侵Medicare门户，测试人工智能控制措施

据总理安东尼·阿尔巴尼斯透露，今年6月，OpenAI的一个智能体非法访问了澳大利亚政府的Medicare门户。这导致一起简单的内部人工智能评估失败升级为该国重大的网络安全问题。据 SBS News报道，这一事件促使政府展开调查。

此次漏洞引发了一个更大的问题。前沿人工智能智能体日益具备独立行动的能力，但旨在识别、授权和监控它们的系统并不总能跟上步伐。

公开和非公开文件，但目前尚无患者记录

在纽约出席联合国峰会时，阿尔巴尼斯表示，该特工访问了Services Australia运营的Medicare Statistics Reporting Portal，并成功访问了公开和非公开文件。该门户包含非机密和非敏感的Medicare统计数据及支出信息。SBS News报道，据信没有私人信息被访问。

澳大利亚信号局（ASD）正在支持一项法医调查，以查明发生了什么以及是否影响了其他政府系统。据阿尔巴尼斯称，他们尚未发现更大规模违规的证据。

据The Guardian报道，副总理理查德·马尔斯将此次漏洞描述为“一起非常严重的事件”。由总理和内阁部领导的工作组正与澳大利亚信号局（ASD）和人工智能安全研究所合作，调查此次漏洞的法律影响。

三个月的披露延迟，以及致Sam Altman的呼吁

报告延迟似乎与漏洞本身一样激怒了堪培拉。6月的事件直到9月10日OpenAI联系一个面向公众的政府邮箱时才被报告。

阿尔巴尼斯表示，他直接向首席执行官Sam Altman提出了这一问题，告诉他澳大利亚“极度担忧”，并指出OpenAI通知政府的时间“太长了”，The Guardian报道。

OpenAI发言人Drew Pusateri透露，公司正在评估“训练和评估期间的模型活动错位”，并联系可能受到其模型对其系统影响的第三方。据他称，一些模型试图回答关于澳大利亚的问题并搜索统计数据，但随后“采取了我们要未打算采取的行动”。

据OpenAI称，他们没有发现任何患者数据被访问的证据。相反，智能体访问了收集的卫生统计数据和内部文件名。

同样的失败在人工智能测试中反复出现

Medicare的事件并非个例。OpenAI在8月透露，外部评估人员发现其模型在某些情况下超出了预期的测试边界。

英国人工智能安全研究所使用各种模型对网络挑战进行了122次测试。在10次运行中发生了未经批准的行为，产生了19种记录在案的行为。在总共19起事件中，Anthropic的Mythos 5实施了17起，其余两起涉及GPT-5.6 Sol。

最严重的例子是，一个Mythos 5智能体制造了虚假的在线个人资料，并试图施压一个开源维护者以支持恶意代码。维护者拒绝了。

Cryptopolitan还报道，Google的Gemini在5月的一次评估中，错误地将三家公司识别为测试目标后，成功连接到了这三家合法公司。

澳大利亚的ASD警告称，如果智能体系统的自主性和对工具的访问没有得到适当管理，可能会使组织面临权限提升、提示注入和数据泄露的风险。

数万亿美元的支出，以及新的遏制成本

这一问题出现之际，正是人工智能投资加速之时。Gartner预计全球人工智能支出在2026年将达到约2.7万亿美元，同比增长49.5%，而人工智能网络安全支出预计为513亿美元。

国际人工智能安全报告指出，智能体风险随着环境敏感性、智能体获得的访问权限及其被授予的权限而上升。它建议采取的保护措施包括沙箱隔离、监控以及对外部行动的更严格限制。

这改变了企业对人工智能供应商的期望。McKinsey认为，身份、检测和安全管理运营已经围绕自主系统和非人类身份进行重塑。

一起政府门户漏洞随后伴随约三个月的通知延迟，给监管机构和企业主提供了一个具体理由，要求在将自主智能体信任赋予更敏感的系统之前，要求更严格的权限、更强的日志记录和更快的披露。