加州就AI失控攻击Hugging Face事件起诉OpenAI

- 加州于周一起诉OpenAI,起因是2026年7月发生的一起事件:该公司实验性AI代理逃出测试环境并攻击了Hugging Face,州政府指控其安全保护措施薄弱,构成公共妨害并违反消费者保护法。
- 诉状称,OpenAI曾超过80次失去对其代理的控制。
- 据报道,这是美国各州提起的首起此类诉讼,可能会影响监管机构如何追究那些模型具备自主行动能力的AI公司的责任。
加州总检察长罗布·邦塔(Rob Bonta)于周一对OpenAI提起诉讼,指控ChatGPT背后的开发公司在未进行充分安全检查的情况下构建AI系统,将人们置于风险之中。
此次诉讼紧随2026年7月的一起事件之后,当时据报道OpenAI正在测试的AI工具失控,并攻击了竞争对手Hugging Face拥有的计算机系统。
邦塔在旧金山高等法院就案件对OpenAI基金会和OpenAI Group PBC提起诉讼。
据《纽约时报》报道,这份31页的诉讼指控 OpenAI将公共安全置于风险之中,并违反了加州《不公平竞争法》。该法律禁止公司使用非法、不公平或不诚实的商业行为。
针对Hugging Face的攻击引发诉讼
2026年7月,据报道OpenAI的实验性AI代理脱离了其测试环境并连接到互联网。随后,它们入侵了Hugging Face——一个开发者分享AI代码和模型的网站。
根据起诉书,数百个AI代理协同参与了此次攻击,持续时间约为两天半。这些代理本应被限制在安全的测试系统内。
这些代理还试图掩盖其行为。OpenAI于7月21日在博客文章中承认对此攻击事件负责,并于8月26日在另一份报告中分享了更多细节。
在第二份报告中,OpenAI将该事件称为AI行业的“警告信号”。该公司表示,这些代理展示了它们能够“绕过技术控制、通过未经批准的渠道协作,并采取任何人类都未曾指示的危险行为。”
加州对80起类似事件表示担忧
司法部长罗布·邦塔(Rob Bonta)的办公室表示,OpenAI本可防止Hugging Face遭受攻击。诉讼声称,该公司明知其AI模型存在危险,却仍在缺乏足够安全措施或未进行适当检查的情况下对其进行测试。
诉讼还称,OpenAI告知邦塔办公室,在测试期间其AI代理失控超过80次。
据报道,在某些情况下,这些代理攻击了存储流行应用程序所用代码的数据库。另一些则入侵公共网站,并访问了一个包含私人健康信息的外国政府数据库。
诉讼还声称,部分AI代理入侵了OpenAI自身的计算机系统,并获得了通常仅限系统管理员使用的权限。
邦塔在一份声明中表示,加州希望“无论产品或公司如何,创新都必须遵守法律。”他补充说,Hugging Face攻击事件“仅是已知的80起事件中的一起”。
OpenAI反驳被单独针对
OpenAI发言人德鲁·普萨泰里(Drew Pusateri)表示,该诉讼“似乎将OpenAI单独挑出,而这一挑战已被所有主要AI实验室所识别。”
他表示,自攻击事件发生以来,OpenAI 已“广泛且透明地努力了解并解决模型行为偏离对齐的问题”。该公司还计划继续与各州监管机构合作,以完善人工智能安全规则。
其他人工智能公司确实也面临过类似的问题。据英国广播公司(BBC)报道,Anthropic、Meta 和 Google 均报告称,其 AI 模型曾突破测试系统并实施攻击。
法院尚未就当 AI 系统在无人工指令的情况下行动时,谁应承担法律责任作出裁决。
首例此类州级诉讼
博恩塔(Bonta)办公室于 9 月开始调查 Hugging Face 遭受的攻击事件,并向 OpenAI 发出传票,要求其提供相关信息。
该诉讼声称,OpenAI 未向调查人员提供其所要求的全部信息。相反,该公司仅分享了公开的博客文章以及数十条消息,其中大部分信息已被删除。
据BBC报道,这似乎是美国各州首次就此类AI事件提起诉讼。此案也可能帮助其他州决定在AI公司失去对其系统控制权时采取何种行动。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

Opeyemi Olanrewaju
Opeyemi 专注于创作和打磨高质量内容,聚焦加密货币、全球金融市场及宏观经济领域。他毕业于伊巴丹大学,拥有医学博士(MBBS)学位。他曾担任学院编辑出版物的主编,并在 CFA 任职。在 Cryptopolitan 担任新闻编辑的六年多时间里,他一直致力于维护内容的独特性。















