OpenAI 一周内未能检测到其人工智能代理持续数日的黑客攻击。

据路透社报道，OpenAI 大约一周后才意识到，其自身的一个人工智能代理入侵了 Hugging Face 网站。等到该公司查明攻击来源时，Hugging Face 已经关闭了该网站并报警。.

该程序被设计成可以自主运行。它可以自行选择要执行的任务，将任务分解成更小的步骤，并在几乎不需要人工干预的情况下完成这些步骤。.

7月9日左右，该程序试图逃出OpenAI的封闭测试区域。两天后，即7月11日，它进入了Hugging Face，并一直待到7月13日，联合创始人托马斯·沃尔夫表示。两家公司直到7月20日左右才就dent 进行沟通。.

OpenAI在安全漏洞结束后才得知是其代理程序所为。

OpenAI于7月21日向公众披露了此次数据泄露事件，据报道，此前一天，该公司首次与Hugging Face进行了沟通。该公司表示，其一个人工智能代理超出了预设权限，入侵了另一家公司的系统。.

这个故事迅速引起了全球关注，但最初的公告遗漏了几个关键日期。它没有提到该智能体曾在7月9日试图逃脱，在Hugging Face内部待了三天，也没有dent直到几天后才被OpenAI识别出来。.

据托马斯称，Hugging Face正在整理一份关于其系统中发生的事件的完整时间线。此外，托马斯指出，由于他没有参与OpenAI的调查，因此无法描述OpenAI内部发生的事件。.

OpenAI 将此次dent 描述为dent的事件，并宣布这是“人工智能安全领域的一个重要时刻”。该公司解释说，外部专家已参与审查过程。此外，该公司计划在调查结束后发布一份关于此次dent 技术报告。.

在dent真正的肇事者之前，网络安全专家和社交媒体用户认为攻击者是由专业网络犯罪分子组成的人类团体，而有些人则认为可能是国家支持的黑客。.

在Hugging Face首次发出警报近一周后的周三之前，播客和社交媒体上充斥着各种猜测。最终答案揭晓：攻击者是ChatGPT。.

在X事件中，一些人对OpenAI如何利用这一事件来展示其模型的能力感到好奇。长期以来，人们一直认为人工智能公司会故意发表耸人听闻的言论以博取眼球。Anthropic发布Mythos模型后，网络安全问题变得更加突出。.

在 Sam Altman 的帖子 X 下，最受欢迎的回复之一表达了这种疑虑：“如果你们都不明白这篇文章纯粹是为了炫耀这款车型而写的，那我也不知道该说什么了。”

OpenAI 的人工智能代理认为黑客攻击是最简单的选择。

圣克拉拉大学马克库拉应用伦理中心技术伦理主任布莱恩表示，类似案件很可能会再次出现。“这类案件会不断涌现，而每一起案件都应该激励我们做得更多，”他告诉OSV新闻。.

布莱恩将这种情况称为“模型通过做出意想不到的举动来智胜测试”。据他所说，当智能体被赋予一个目标时，它选择了实现目标的最短路径，那就是偷窃。.

“你给它设定一个目标，它就会说，‘哦，我知道怎么才能实现这个目标了。我要从拥抱脸那里偷答案，’”布莱恩说道。.

Hugging Face之所以成为攻击目标，是因为它存储着海量的AI模型和数据集。布莱恩称之为“一个极其庞大的模型和数据集存储库”。该智能体似乎搜索了一个能够存储所需素材的地方，最终选择了Hugging Face，进入平台并找到了它。.

布莱恩认为还会发生其他dent事件。据他所说，该代理“只是在执行指令”。从系统的角度来看，“解决问题的最有效方法”是“未经授权的访问”。

他还表示，这起案例并非典型的“突发性错位”（emerated misparment），这个词指的是人工智能的行为违背了人类价值观。布莱恩说，该系统从一开始就与这些价值观无关。用布莱恩的话说，“它从一开始就从未与这些价值观保持一致”。