最新新闻
为您推荐

Anthropic的AI急转弯?Amodei否认开放模型禁令说法

作者Ashish KumarAshish Kumar 4 分钟阅读
Anthropic 的 AI 立场急转?Amodei 驳斥禁止开源模型的指控
  • Anthropic 的 Dario Amodei 表示,该公司从未寻求禁止开源权重的 AI 模型。
  • 他转而呼吁加强芯片出口管制、实施反蒸馏规则,并强制进行 AI 安全测试。
  • 这一辩论正值美国立法者考虑可能重塑开源 AI 未来的规则之际。

Anthropic首席执行官Dario Amodei周一表示,该公司从未试图禁止开放权重AI模型,这是对考虑新法规的监管机构和声称Claude利用安全和安全困境进行自我辩护的竞争对手的反驳。

这一澄清很重要,因为华盛顿正在确定法规的实施程度。参议院提出了一项可能导致联邦限制开放权重模型的法案,开放权重模型是开发人员可以下载并在其机器上使用的一类模型。辩论的结果将影响哪个实验室获得竞争优势、公司可以访问哪种类型的模型,以及各种封闭模型提供商将在多大程度上主导市场。

Amodei希望监管的瓶颈

在他的博客文章中,Amodei并未呼吁全面禁止,而是为政策制定者提出了三个更具体的建议。首先,他希望加强对先进芯片技术和发送给威权国家(如中国)的计算设备的监管。他还希望严格禁止工业“蒸馏”,即用更先进模型的输出来训练新模型。最后,他希望强制测试强大模型,以确保其安全性。

根据Amodei的说法,禁令只会削弱真正的危险,正如他所言,“不良行为者不太可能是合法的美国企业。”Amodei向Axios承认禁止中国开源有助于像他这样的实验室免受竞争,但他坚持认为“这从来不是我的目标。”正如Bloomberg Law所指出的,他主要关注的是威权国家开发出优于美国产品的AI。

Anthropic拒绝签署的信函

此举是对重大公众反对的回应。据报道,包括英伟达、Meta和微软在内的20多家公司签署了一封题为“开放权重与美国AI领导力”的早期信函,要求立法者不要对该技术施加限制,据Business Insider报道。周末期间,OpenAI、Google和SpaceX加入了该团体,因此到周一,Anthropic是唯一一家未签署的主要公司。

硅谷已引起关注。风险投资家、前特朗普政府AI顾问David Sacks在X上警告行业必须“像鹰一样监视这些人”。

与此同时,Benchmark的Bill Gurley表示Anthropic在保护其“企业经济战略”。中国开源模型初创公司01.AI的创始人Kai-Fu Lee表示,未签署的人“比签署的人更有趣”。

从共同的中国担忧到公开分裂

这种分歧比根本问题出现得更晚。Cryptopolitan报道称,封闭模型竞争对手在华盛顿联合起来对抗彼此已有一段时间。7月,Axios观察到OpenAI和Anthropic联手向立法者提高对强大中国开源模型的认识,这一立场引发了批评,如Sacks等人攻击其为监管俘获的可能案例,这将巩固大公司的影响力。

辩论的催化剂是Kimi K3,这是由中国初创公司Moonshot开发的开放权重模型,以更低的价格与美国模型竞争。一些人指责Moonshot使用Anthropic的Fable模型通过称为蒸馏的过程训练Kimi K3,财政部长Scott Bessent提议对被发现复制美国模型的中国模型实施制裁。随后,Anthropic的两大竞争对手OpenAI和Google签署了一封公开信,使Anthropic孤立无援,引发了关于Anthropic是否希望实施禁令以捍卫其商业利益的疑问。

Amodei承认了什么,拒绝了什么

Amodei试图走钢丝。他承认开放模型提高了可访问性,促进了竞争,并使客户处于控制地位;他甚至将没有危险能力的开放模型形容为“公共产品”。然而,他拒绝了信函中的关键安全主张,声称他不相信开放权重允许防御者轻松构建防御,也不认为增加访问对防御者比对攻击者更有帮助。在他看来,任何有能力模型都可以武器化大流行水平的病毒,而创建防御需要很长时间。

目前,这种分歧是行业内最明显的。英伟达借此机会宣布成立开放安全AI联盟,得到Microsoft、SpaceX、Hugging Face等支持,声称开放技术受法律保护,全面禁止将赋予少数封闭供应商过多权力。现在球在立法者手中,他们尚未制定标准来确定上述问题的答案。

 

不要只是阅读加密货币新闻,要真正理解它。订阅我们的通讯。 免费。

常见问题

为何 Anthropic 拒绝签署支持开源权重的联名信?

Anthropic 未加入“开源权重与美国 AI 领导力”联名信,因为 Amodei 反对该信中声称开源模型必然使 AI 更安全或赋予网络防御者相对于攻击者的优势的观点;批评人士指出,这一立场也保护了其闭源模型业务。

为何 Anthropic 拒绝签署支持开源权重的联名信?

Anthropic 未加入“开源权重与美国 AI 领导力”联名信,因为 Amodei 反对该信中声称开源模型必然使 AI 更安全或赋予网络防御者相对于攻击者的优势的观点;批评人士指出,这一立场也保护了其闭源模型业务。

Amodei 希望监管者采取哪些除禁令之外的措施?

他提出了三项更具体的政策:加强对先进芯片流向威权政府的管控,打击工业规模的模型蒸馏行为,并对具备足够能力的模型(无论开源还是闭源)强制进行安全测试。

是什么引发了关于开源权重 AI 的辩论?

在Kimi K3——月之暗面推出的一款中国开源权重模型,以极低成本逼近美国前沿性能后,辩论进一步升级,引发白宫对知识蒸馏的指责以及对开源中国模型的制裁讨论。

分享本文

免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

Ashish Kumar

Ashish Kumar

Ashish Kumar 是一位拥有八年新闻室经验的加密货币和金融记者。他报道加密货币市场、监管、DeFi 和交易所生态系统的最新动态。他曾与 Coingape、Todayq 和 Newsroompost 合作。Ashish 在 IIMC 获得了英语新闻学研究生文凭。他还采访过包括 Arthur Hayes、Yat Siu、Austin Federa 在内的行业人物。

更多新闻…