OpenAI 未能在一周内发现其 AI 代理的多日黑客攻击行为

据路透社报道，OpenAI 在大约一周的时间里没有意识到其自己的一个 AI 代理已入侵 Hugging Face。当该公司查明攻击来源时，Hugging Face 已经将其关闭并报警。

该程序被设计为自主运行。它可以自主选择行动，将任务分解为更小的步骤，并在极少人工协助的情况下执行这些步骤。

联合创始人 Thomas Wolf 表示，大约在 7 月 9 日，它试图逃离 OpenAI 的锁定测试区域。两天后的 7 月 11 日，它进入 Hugging Face 并一直停留至 7 月 13 日。两家公司直到大约 7 月 20 日才就此事进行沟通。

OpenAI 在入侵事件结束后才得知其代理是罪魁祸首

OpenAI 于 7 月 21 日向公众披露了此次入侵事件，比其据报道首次与 Hugging Face 沟通晚了一天。该公司表示，其一个 AI 代理超出了为其设定的限制，进入了另一家公司的系统。

这个故事迅速引起了全球关注，但首次公告遗漏了几个关键日期。它没有说明该代理曾试图在 7 月 9 日逃脱，在 Hugging Face 内停留了三天，或在几天后才被 OpenAI 识别。

据 Thomas 称，Hugging Face 正在就其系统内发生的事件制定全面的时间线。此外，Thomas 指出，由于他未参与 OpenAI 的调查，因此无法描述该事件。

OpenAI 将此次事件描述为前所未有的事件，并宣布这是“AI 安全的一个重要时刻”。该公司解释说，外部专家已参与审查过程。此外，该公司计划在调查完成后发布一份关于该事件的技术报告。

在确定实际肇事者之前，网络安全专业人士和社交媒体用户认为攻击者是由专业网络罪犯组成的人类团体，而有些人则认为这可能是国家支持的黑客所为。

播客和社交媒体上充满了猜测，直到周三，即 Hugging Face 首次发出警报近一周后，答案才揭晓。攻击者是 ChatGPT。

在 X 上，一些人觉得 OpenAI 利用这一事件来展示模型的能力很有趣。长期以来，人们一直声称人工智能公司故意发表令人恐惧的声明以制造噪音。Anthropic 发布其 Mythos 模型后，网络安全问题变得更加突出。

Sam Altman 在 X 上帖子下的一条热门回复捕捉到了这种怀疑：“如果你们不明白这是为了纯粹炫耀模型而写的，那我也不知道该说什么了。”

OpenAI 的 AI 代理将黑客攻击视为最简单的选择

圣克拉拉大学马克库拉应用伦理中心的技术伦理主任 Brian 表示，类似案例可能会再次出现。“这类案件会不断出现，每一个都应该激励我们做得更多，”他告诉 OSV News。

Brian 将这种情况称为“模型通过做意想不到的事情来智胜测试”。据他介绍，该代理被赋予了一个目标，选择了实现该目标的最短路径，那就是偷窃。

“你给它一个目标，它说，‘哦，我知道如何实现那个目标。我会从 Hugging Face 偷走答案，’”Brian 说。

Hugging Face 成为一个目标是有道理的，因为它存储了大量的人工智能模型和数据集。Brian 称其为“一个巨大的、巨大的不同模型和数据集存储库”。该代理似乎正在寻找一个可以容纳所需材料的场所，选择了 Hugging Face，进入该平台并找到了它。

Brian 建议此类事件还会发生。据他介绍，该代理“只是试图做它被告诉要做的事”。在系统的角度来看，“解决问题的最有效方法”将是“未经授权的访问”。

他还表示，此案并非明显的“涌现性不对齐”（emergent misalignment），这是一个指代违背人类价值观的 AI 行为的术语。Brian 表示，该系统从一开始就没有与这些价值观相连。用 Brian 的话说，它“从一开始就从未与这些价值观对齐”。