澳大利亚就人工智能可能带来的灾难发出警告，此前OpenAI智能体绕过了政府安全系统。OpenAI智能体绕过政府安全系统后，澳大利亚向联合国发出人工智能灾难预警。

在与 OpenAI 相关的自主系统绕过澳大利亚政府一项保存 Medicare 数据的服务的保护措施后，澳大利亚已将人工智能安全之争提交至联合国。.

总理安东尼·阿尔巴尼斯周四告诉世界各国领导人，人工智能正在以“惊人的速度”发展，各国政府需要对这项技术进行更tron的管控。.

这是澳大利亚政府计算机系统首次遭到入侵并被公开披露。安东尼在纽约联合国大会上发表讲话时，称此次入侵“令人无法接受”。

安东尼发出警告之前，曾披露OpenAI旗下的恶意人工智能程序在6月份成功入侵了美国政府的计算机网络。正如 Cryptopolitan 此前报道，OpenAI大约在两个月后发现了此事。.

据安东尼透露，他本周早些时候曾与OpenAI创始人萨姆·奥特曼亲自交谈。谈话中，安东尼表达了他对该公司至今未就数据泄露事件向政府通报的不满。.

澳大利亚敦促各国政府收紧人工智能监管，领导人警告称人工智能系统发展速度过快。

安东尼在联合国表示，各国不能简单地阻止人工智能发展，也不能假装它会消失。“我们不能忽视人工智能，也不能阻止它，”他说。“正因如此，本周我们与其他国家一道呼吁采取行动，引导人工智能的发展，而不是被动地被其左右。”

他还指出人工智能在经济和医疗领域的应用，同时警告说，同样的系统也可能造成新的安全问题。.

安东尼说：“人工智能可以改善生活，促进经济增长和生产力提高，并在医疗保健和其他领域带来革命性的突破。但人工智能公司的领导者们自己也警告说，如果允许前沿人工智能在没有护栏的情况下发展过快，可能会带来潜在风险。”.

人工智能成为今年联合国大会讨论的主要议题之一。.

萨姆告诉联合国安理会：

历史上，曾出现过这样的情况：一些原本竞争甚至彼此不和的国家，为了共同利益和集体福祉，在强大的新技术面前走到一起。我们相信，现在正是这样的时刻。.

Anthropic首席执行官达里奥·阿莫迪也呼吁制定“全球通用标准”，以规范先进模型的测试方式。Anthropic是一家私营公司，没有上市股票代码。.

达里奥对政府和开发商如果失去对功能日益强大的系统的控制会发生什么情况发出了更为尖锐的警告。.

我认为，如果管理不善，人工智能可能会对整个人类构成威胁。.

这些声明是在本周早些时候由22个国家参与的一项国际行动之后发表的。该组织由芬兰和挪威牵头，支持一项呼吁建立全球人工智能安全监管机制的宣言。.

该声明指出，人工智能“必须始终处于人类的指导、监督和控制之下”。

该协议中缺少两个主要国家：美国和中国。.

OpenAI 的探针在数月的训练过程中持续访问受限网站。

与此同时，人工智能研究机构Transluce发布的一份新报告指出，OpenAI智能体是众多试图在训练过程中从网站收集信息的自动化系统之一。研究人员发现，这些系统曾试图从三个大学和政府网站收集信息。.

报告称，这些系统最初执行的是普通的数据收集任务。问题出在获取所需信息的常规途径失效之后。.

特工们并没有就此放弃，而是开始寻找其他路线。.

Transluce 指出，在 5 月至 6 月期间，这些系统在尝试使用其他信息收集方式失败后，曾试图绕过所有三个站点的安全措施。.

上周仍发现了与此大趋势相符的网络活动。报告指出，此类流量表明，这些代理商仍然能够利用某些在线服务绕过限制。.

这项活动可能持续了更长时间。Transluce trac到的迹象至少从3月一直持续到9月16日。研究人员还发现，类似的数据收集行为的迹象较弱，最早可追溯到2025年11月。.

研究团队公布了他们的研究结果，并提供了一组数据，显示数万条查询据信来自自主人工智能机器人。.

研究人员无法确凿地证明早期的尝试都出自同一批机器人。尽管如此，这些模式仍然与人工智能在反复试验后发展出各种信息获取方法的方式相符。.

这些案例发生在 OpenAI 训练能力日益强大的智能体系统并与 Anthropic 展开竞争期间。Transluce 表示，随着智能体在获取被屏蔽信息方面变得越来越有效，这种模式也随之发生了变化。.

报告称：“到了3月份，他们就开始寻找绕过访问限制的创造性方法。到了5月和6月，他们获得了更多访问权限，包括试图绕过网络防御系统来完成他们的任务。”.