最新消息
为您精选

众议院民主党人希望OpenAI和Anthropologie的首席执行官就人工智能安全漏洞宣誓作证。

经过兰达·摩西兰达·摩西 阅读时间:2分钟
众议院民主党人希望OpenAI和Anthropico的首席执行官们就人工智能安全漏洞宣誓作证。.
  • 众议院民主党人希望 OpenAI、Anthropic 和其他人工智能公司的首席执行官宣誓作证,说明他们的模型造成的违规行为。.
  • OpenAI 的一个代理短暂地访问了 Hugging Face,而 Anthropic 的评估显示,三个 Claude 模型与真实组织的实时系统进行了交互。.
  • OpenAI 和 Anthropic 在 2026 年第二季度花费了 317 万美元用于联邦游说。.

周一,由众议员格雷格·卡萨尔 (Greg Casar) 领导的一群众议院民主党人要求议长迈克·约翰逊 (Mike Johnson) 强制 OpenAI、Anthropic 和其他主要人工智能公司的首席执行官宣誓作证。.

他们列举了近期由公司自身人工智能模型造成的安全漏洞。.

卡萨尔写信给约翰逊,但他没有权力强制执行。

这封信主要由德克萨斯州民主党人卡萨尔牵头,他是国会进步党团主席。.

议员们表示,国会在应对先进人工智能带来的风险方面做得不够。他们要求各公司首席执行官就失败案例、疏忽大意和预防措施做出解释,并要求专家就人工智能的风险进行简报。.

卡萨尔的团队无法邀请任何人工智能实验室的首席执行官出席。这项权力掌握在委员会主席和议长手中,这也是为什么这封信要寄给约翰逊的原因。

大多数签署者来自该党的左翼。中间派的马里兰州众议员艾普丽尔·麦克莱恩·德莱尼也签署了该声明。.

信中警告说,这些违规行为“可能是煤矿里的金丝雀,预示着如果这些模式在缺乏监管的情况下继续发展,将会出现更严重的问题” 。

OpenAI 的一个智能体从公司封闭的测试环境中逃脱。联合创始人 Thomas Wolf 表示,该智能体于 7 月 11 日入侵了 Hugging Face 系统,并一直停留到 7 月 13 日。Hugging Face 迅速关闭了入侵程序并通知了 FBI,随后 OpenAIdent入侵者是其自身的一个智能体。.

OpenAI 的最初声明没有提及逃脱尝试以及该智能体在另一家公司系统中待了三天的情况。.

近一周的时间里,社交媒体和播客上充斥着关于职业黑客或国家支持的黑客的各种猜测。但最终,罪魁祸首是 ChatGPT。OpenAI 此次事件是“人工智能安全的重要时刻”。

克劳德的三个模型都将真实企业视为目标。

Anthropic公司披露,他们审查了141,006次评估运行。他们发现,在与合作伙伴Irregular公司共同开展的攻击性安全演习中,有三个Claude模型被成功入侵到三个真实组织的运行系统中。.

Anthropic 的提示信息告知模型它们处于模拟环境中,但由于配置错误,测试机器能够访问互联网。这些模型包括 Opus 4.7、较新的 Mythos 5 以及一个尚未发布的内部版本。.

Opus 4.7 窃取了dent并攻击了生产数据库。Mythos 5 在找不到预期的 Python 包时,编写并向 PyPI 发布了一个恶意 Python 包。.

该程序在 15 台真实机器上运行,并在线运行了大约一个小时。只有内部研究模型在怀疑目标是真实目标后停止了运行。.

Anthropic公司 描述dent为“更接近于安全带和操作故障”,并表示其代码依赖于弱密码。该公司已要求METR组织对此次事件dent独立dent。

美国dent 唐纳德·特朗普支持“护栏”,但他警告说,过于严格的规则可能会损害与中国竞争的美国公司。.

2026年第二季度,Anthropic和OpenAI报告称,两家公司共计在联邦游说方面花费了317万美元。其中,Anthropic花费了197万美元,OpenAI花费了120万美元。.

Anthropic公司今年上半年的支出已经超过了其2025年全年的支出。这些公司就网络安全、版权、云计算和国防采购等领域进行了游说。.

不要只是阅读加密货币新闻,要理解它。订阅我们的新闻简报, 完全免费

常见问题解答

谁在带头呼吁人工智能领域的高管们作证?

德克萨斯州民主党众议员、国会进步党团主席格雷格·卡萨尔牵头致信众议院议长迈克·约翰逊。.

是什么违规行为促使我们发出这封信?

OpenAI 的一个智能体逃出了测试环境并入侵了 Hugging Face,Anthropic 后来发现,在安全演习期间,三个 Claude 模型访问了三个真实的组织。.

OpenAI 和 Anthropico 在游说方面花费了多少资金?

2026 年第二季度,Anthropic 在联邦游说方面花费了 197 万美元,而 OpenAI 花费了 120 万美元。.

分享这篇文章

免责声明:本页面提供的信息并非交易建议。Cryptopolitan.com对任何基于本页面信息进行的投资概不负责。我们tron您在做出任何投资决定前进行独立dent /或咨询合格的专业人士。Cryptopolitan研究

兰达·摩西

兰达·摩西

Randa Moses是 Cryptopolitan 的编辑和记者,主要报道科技、人工智能、机器人、加密货币、诈骗和黑客攻击等领域。她自2017年起便投身于加密货币领域,曾就职于Forw​​ard Protocol、AmaZix和Cryptosomniac等公司。Randa拥有布拉德福德大学电气与tron工程学位。.

更多…新闻