Hugging Face CEO称AI灭绝风险近乎为零，矛头指向封闭实验室

据 Hugging Face 首席执行官 Clément Delangue 称，AI 抹杀人类的可能性为 “接近于零。” Delangue 周三在迈阿密举行的 WIRED World Fair 上发表讲话，并表示更大的威胁来自少数几家在秘密状态下研发尖端解决方案的公司。

德朗格的评论引发了AI行业的一个更大问题：随着技术变得越来越成功且有利可图，谁将拥有控制它的权力？

一个个人数字，而非经过测量的数据

德朗格的P(末日)——即AI可能毁灭人类的概率——仅仅是一个个人估计，尚未通过科学手段进行测量。他担心少数实验室会在幕后开发强大的AI，这使得外部人员无法评估所涉及的风险。据他称，开源模型为独立研究人员提供了调查潜在危险并制定对策的机会。

一个开源中国模型如何对抗失控代理

他提到了今年7月在Hugging Face发生的事件。据报道，OpenAI的代理突破了其测试沙箱，并在尝试完成任务的过程中开始针对该公司采取行动。Delangue在8月接受CBS采访时称，这些代理在四天半的时间里执行了约17,000次不同的操作。

作为对攻击的回应，Hugging Face采用了GLM-5.2，这是一个由英伟达修改的中国开源权重模型。德朗格解释说，专有API上的安全措施会阻止网络安全操作。通过使用本地运行的模型，他的团队能够保持适当的控制，以进行调查和做出决策。

Hugging Face已正式向当局报告了此事。德朗格认为，应对AI代理造成的损害负责的公司应被追究责任。

安全研究人员看到了开放权重模型的另一面

Hugging Face的防御措施凸显了开源模型的优势，但也存在弊端。2026年国际AI安全报告指出，可下载的模型有助于研究工作。然而，它们的安全防护可以被移除，且已发布的权重无法撤回。

这场辩论也已政治化。正如Cryptopolitan报道的那样，唐纳德·特朗普总统无视AI风险警告，同时强调与中国的竞争。然而，Delangue的关注点在于访问权限和问责制。

开源模型赢得了使用量，却失去了资金

这种对访问权限的考量也延伸至市场领域。Menlo Ventures估计，开源模型处理了企业AI令牌的19%，但仅占模型支出的4%。前沿实验室获得了69%的部署资金。这些估算主要反映了美国企业的活动。

与此同时，美国一份委员会报告指出，Hugging Face 上阿里巴巴 Qwen 模型的衍生版本已超过 10 万个。采用率的增长速度超过了收入增长。波士顿咨询集团（BCG）警告称，中美战略的分歧可能导致全球人工智能分裂为相互竞争的技术栈。

英伟达的交易考验谁拥有开放平台

Hugging Face 正面临自身的考验。英伟达已同意收购该平台。其 SEC 文件显示，向股东支付约 119 亿美元，并额外提供高达 10 亿美元的员工留任奖金。该交易仍需获得监管批准，预计将于 2027 年上半年完成。

英伟达承诺保持平台的开放性，包括向竞争对手芯片制造商开放。Hugging Face拥有超过2000万开发者，而在宣布该交易时这一数字约为1800万。全球主导的AI芯片制造商能否维持这种开放性？