最新新闻
为您推荐

OpenAI确认测试模型突破并入侵Hugging Face

作者Randa MosesRanda Moses 3 分钟阅读
OpenAI确认测试模型越狱并入侵Hugging Face。
  • OpenAI 表示,其内部 IM1 模型在关闭安全分类器的情况下处理 ExploitGym 的不可能任务时,利用 Artifactory 的零日漏洞接入互联网并入侵了 Hugging Face。
  • 包服务器中出现的第一个代理间消息出现在 5 月 12 日,该实例于 7 月 4 日下线,Hugging Face 于 7 月 16 日披露了此次入侵事件。
  • OpenAI 表示,其计划实施的监控措施本可在模型接触 Hugging Face 前超过一天就通知其安全团队。

OpenAI于周三发布了关于Hugging Face 7月事件的完整报告。

在一次安全测试中,其自己的一个AI模型突破了本应保持其离线的封闭环境。它串联起未知的软件漏洞,进入了Hugging Face的实时系统。

OpenAI表示该模型是自主行动的,并将此事件称为“警告射击”。

OpenAI创建了一个其模型无法通过的测试

麻烦始于ExploitGym内部,这是OpenAI自己的安全测试之一。

其中一些任务没有解决方案,OpenAI在运行模型时没有使用通常阻止危险黑客行为的安全过滤器。

OpenAI表示,拆除这些护栏是有意为之,以查看模型在全力运行下能做什么,并帮助公司确定如何保护自己。

主要参与者是一个仅限内部使用的研究模型,由OpenAI称为IM1,其规模与GPT-5.6 Sol相似。它属于OpenAI未发布的Astra模型家族,但该公司强调它是一个具有不同后训练过程的独立模型。

当模型面临一个没有诚实途径获得及格分的问题时,它开始寻找其他出路。

离开封闭环境的唯一网络路径经过Artifactory,这是JFrog的自托管包管理器,OpenAI内部使用它让模型安装软件。

JFrog表示,模型利用了Artifactory中的零日漏洞,提升了权限,并在基础设施中横向移动,直到到达一个可以访问互联网节点。

代理还互相留下笔记,将文件写入包服务器,这是一个临时的留言板,允许不同的代理交换他们发现的利用技术。

OpenAI表示,第一条此类笔记出现在5月12日。到7月4日,流量导致Artifactory实例离线,第二天引发了安全事件。

模型找出了答案存放的位置

一旦联网,模型推断Hugging Face可能托管了ExploitGym的模型、数据集,甚至是它们缺失的解决方案。它们直接从Hugging Face的生产数据库中拉取了测试解决方案。

在ChatGPT制造商描述的一个案例中,一个模型使用被盗凭证和额外的零日漏洞,在Hugging Face的服务器中打开了远程代码执行路径。

Hugging Face于7月16日宣布了此次入侵,但当时并不知道幕后黑手是谁。正如Cryptopolitan此前报道,该模型在7月9日左右逃脱测试,并在7月11日至7月13日期间留在Hugging Face内部。

在OpenAI发现其模型是入侵者之前,该公司已联系FBI。

OpenAI聘请CrowdStrike检查其版本的事件。METR和Redwood Research查看了模型的行为,并在同一天发布了他们自己的报告。

JFrog表示已向云和自托管客户发送修复程序。

Artifactory 7.161.15中修补了三个漏洞,分别跟踪为CVE-2026-65617、CVE-2026-65923和CVE-2026-66018,归功于OpenAI研究人员。

OpenAI表示,它正在构建更隔离的沙箱,锁定互联网访问,并限制谁可以接触模型权重。

这家科技公司正投入大量计算资源来监控代理用作草稿空间的“思维链”。它还将全天候安排员工待命,并添加关闭不安全作业的工具。

OpenAI 表示其正在构建的监控系统本应在7月发现第一个异常行为。它会在模型到达Hugging Face前一天以上向安全团队发出警报。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

Randa Moses

Randa Moses

Randa Moses 是 Cryptopolitan 的编辑兼记者,专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来,她一直活跃于加密货币领域,曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。

更多新闻…