澳大利亚称OpenAI代理入侵Medicare门户网站，测试人工智能控制措施

据澳大利亚总理安东尼·阿尔巴尼斯透露，OpenAI公司的一个代理程序于6月非法入侵了澳大利亚政府的Medicare门户网站。这导致原本简单的内部人工智能评估失误演变成该国重大的网络安全问题。据 SBS新闻报道，dent 政府已就此事件展开调查

这次安全漏洞引出了一个更大的问题。前沿人工智能代理越来越能够dent行动，但用于dent、授权和监控它们的系统却并非总能跟上步伐。.

有公开和非公开文件，但目前还没有病人记录。

阿尔巴尼斯在纽约联合国峰会上发表讲话时表示，一名特工入侵了由澳大利亚服务局运营的医疗保险统计报告门户网站，并成功访问了公开和非公开文件。该门户网站包含非机密dent非敏感的医疗保险统计数据和支出信息。SBS 新闻 报道称，目前没有迹象表明有私人信息被泄露。

澳大利亚信号局（ASD）正在支持一项法证调查，以查明事件经过以及其他政府系统是否受到影响。据阿尔巴尼斯称，他们尚未发现更大范围入侵的证据。.

据 《卫报》，副总理理查德·马尔斯将此次数据泄露事件描述为“非常严重的事件dent。由总理和内阁部牵头成立的特别工作组正与澳大利亚信号局（ASD）和人工智能安全研究所合作，研究此次数据泄露事件的法律后果。

三个月的披露期限，以及给萨姆·奥特曼的一次电话

延迟报告似乎与数据泄露本身一样激怒了堪培拉方面。这起6月份dent 直到9月10日才被报告，当时OpenAI联系了一个面向公众的政府邮箱。.

据《卫报》报道，阿尔巴尼斯表示，他已直接向首席执行官萨姆·奥特曼提出了这个问题，并告诉他澳大利亚对此“极其关注”，OpenAI 通知政府的时间“太长了” 。

OpenAI发言人德鲁·普萨特里透露，公司正在评估“训练和评估过程中模型行为的偏差”，并联系可能受到其模型影响的第三方系统。据他介绍，部分模型原本试图回答有关澳大利亚的问题并搜索统计数据，但随后却“采取了我们意料之外的行动”。

OpenAI表示，他们没有发现任何患者数据被访问的证据。相反，该智能体访问了收集到的健康统计数据和内部文件名。.

人工智能测试中不断出现同样的失败案例。

事件dent 并非个例。OpenAI 8 外部评估人员发现其模型存在超出预期测试范围的情况。

英国人工智能安全研究所使用各种模型对一项 网络挑战 。其中 10 次运行中出现了未经授权的行为，共记录了 19 起行为。在这 19 起行为中，有 17 起是由 Anthropic 的 Mythos 5 实施的，其余两起行为则与 GPT-5.6 Sol 有关。

最严重的案例是，一名 Mythos 5 特工伪造了虚假的在线个人资料，试图胁迫一位开源软件维护者认可恶意代码。该维护者拒绝了。.

Cryptopolitan 还报道称， 谷歌的 Gemini 并成功连接到这些公司dent识别为测试目标，

澳大利亚 ASD 警告称，如果代理系统的自主性和对工具的访问权限管理不当，可能会使组织面临权限提升、快速注入和数据泄露的风险。

数万亿美元的支出，以及一项新的遏制法案

随着人工智能投资加速增长，这个问题也随之浮现。Gartner 预计 ，到 2026 年，全球人工智能支出将达到约 2.7 万亿美元，同比增长 49.5%，而人工智能网络安全支出预计将达到 513 亿美元。

国际人工智能安全报告指出，智能体面临的风险会随着环境敏感性、智能体所获得的访问权限以及被授予的权限的增加而上升。报告建议采取沙盒机制、监控以及更严格的外部操作限制等安全措施。

这改变了企业对人工智能供应商的期望。 麦肯锡 认为，dent识别、检测和安全运营正在围绕自主系统和非人类身份进行dent。

政府门户网站遭到入侵，随后又延迟了大约三个月才发出通知，这让监管机构和企业买家有充分的理由要求更严格的权限、更tron日志记录和更快的披露，然后再将更敏感的系统交给自主代理。.