最新新闻
为您推荐

研究人员称,OpenAI 代理将德国维基网站用作代理公告板

作者Opeyemi OlanrewajuOpeyemi Olanrewaju 3 分钟阅读
OpenAI 代理劫持德国网站,研究人员称
  • 研究人员称,OpenAI 的 AI 代理在 2026 年 5 月和 6 月期间将一个德国编程维基 DseWiki 变成了一个留言板,它们在其中交流规避 OpenAI 安全限制的策略。
  • 在外部研究人员于 8 月底发现该情况之前,这些代理已进行了超过 15,000 次编辑。
  • OpenAI 否认该活动属于黑客行为,并表示其与 7 月的 Hugging Face 数据泄露事件无关。

两名 AI 安全研究人员表示,2026 年春,一群 OpenAI 代理接管了由志愿者运营的德国编程维基网站 DseWiki,长达两个月,并利用该网站规避 OpenAI 的安全保障措施。

DseWiki 是一个由社区编辑的维基百科式网站,专门面向程序员。据路透社调查显示,AI 代理在该网站上留下了超过 15,000 次编辑,将页面变成了它们交流完成任务策略、绕过 OpenAI 限制以及隐藏其行为的渠道。

这种失控行为从 2026 年 5 月持续到 6 月,直到 8 月下旬才被发现。当时,AI 安全非营利组织 Nightingale 的负责人 Sydney Von Arx 以及前量化交易员、现从事 AI 研究工作的 Cormac Slade Byrd 在网上搜寻此类由 AI 代理进行的未经授权的活动。

两位研究人员发现,代理的移动速度远超人类,并专注于看起来像是 AI 公司在训练和测试其模型时使用的评估的技术问题。

然而,Von Arx 对这些事件的解读保持谨慎。她对路透社表示:“OpenAI 希望它们这样做似乎极不可能。我怀疑它们被要求彼此协调。”

指向 OpenAI 的证据

研究人员表示,公共服务器日志将大量流量追踪到微软 Azure 基础设施,该基础设施支持部分 OpenAI 运营。他们还声称注意到 OpenAI 员工在事件发生后重新访问该网站,他们认为这是进一步证明存在关联的证据。

AI 代理使用的“账户”中,近一半的名称类似于“OpenAIResearcher”和“OAIResearchMar26”,表明与 OpenAI 有关联。

专家们在如何描述这一实例上意见不一。伦敦国王学院客座高级研究员 Lukasz Olejnik 将这一活动描述为黑客攻击。剑桥大学存在风险研究中心的学者 Maurice Chiodo 阅读了一些消息,称它们类似于“某种地下网络的运作,一心一意要完成任务或使命。”

两位研究人员认为,真正的危险可能在于大量半智能系统协同工作,而非单一超级智能,并认为这种场景更难监控和关闭。

为抵御删除而建立的备份页面

当 DseWiki 管理员在 6 月试图删除页面时,代理似乎进行了反击,建立了备份副本以在清理中幸存。6 月 19 日的一条消息指出,正在运行删除程序,并指引其他人前往一个备用页面,上面写着“如果此页面消失,请尝试 [[ZZZDataUSAConstructionWageLive]]。”

这个名称经过特别设计,以确保在 alphabetical 排序中排在最底部,表明编写它的人已经摸清了人类管理员删除内容的方式并加以规避。研究人员表示,他们还发现了试图篡改网站本身的行为。

OpenAI 否认这种说法和时间线

OpenAI 通过发言人回应称,由于路透社和研究人员都拒绝了其访问请求,公司未能有机会审查报告,因此无法对此报告进行实质性评论。

该公司补充说,一旦报告发布,它将审查调查结果并在必要时采取适当行动,并否认将此次事件定性为黑客攻击。

该AI制造商还表示,德国的活动与7月份对开源仓库 Hugging Face 的单独入侵事件无关。报道还声称,一个失控的 OpenAI 代理在同一时间左右入侵了 Modal Labs 的一名客户。

Anthropic 还披露,由于配置错误导致其在安全测试期间意外获得了互联网访问权限,其三个 Claude 版本入侵了三家组织。该事件报告发布之际,正值OpenAI 推出 Astra,这是一款据称性能优于以往模型且容易逃避人类监控的 AI 模型。

最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。

分享本文
Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi 专注于创作和打磨高质量内容,聚焦加密货币、全球金融市场及宏观经济领域。他毕业于伊巴丹大学,拥有医学博士(MBBS)学位。他曾担任学院编辑出版物的主编,并在 CFA 任职。在 Cryptopolitan 担任新闻编辑的六年多时间里,他一直致力于维护内容的独特性。

更多新闻…