最新消息
为您精选

人类研究所的人工智能政策大转弯?阿莫迪否认开放模式禁令

经过阿什什·库马尔阿什什·库马尔
阅读时长:4分钟 发布
人类研究所的人工智能政策大转弯?阿莫迪否认开放模式禁令
  • Anthropic 公司的 Dario Amodei 表示,该公司从未寻求禁止开放权重的 AI 模型。.
  • 他反而呼吁加强芯片出口管制、制定反蒸馏规则以及强制进行人工智能安全测试。.
  • 这场辩论正值美国立法者考虑可能重塑开源人工智能未来的规则之际。.

Anthropic 首席执行官 Dario Amodei 周一表示,该公司从未试图禁止开源 AI 模型,这一反驳针对的是正在考虑新法规的监管机构以及声称 Claude 利用安全问题为自己辩护的竞争对手。.

这项澄清至关重要,因为华盛顿正在确定这些法规的实施范围。参议院已提出一项法案,该法案可能导致联邦政府对开放式体重模型(即开发商可以下载并在其机器上使用的模型)的使用进行限制。辩论的结果将影响哪家实验室将获得竞争优势,哪些类型的模型公司可以进入市场,以及各种封闭式模型提供商将在多大程度上主导市场。.

阿莫迪希望监管的是那些咽喉要道,而不是交通要道。

阿莫迪在他的博客文章中并未呼吁彻底禁止,而是向政策制定者提出了三项更具体的建议。首先,他希望对出口到中国等威权国家的先进芯片技术和计算设备进行更严格的监管。他还希望严格禁止工业“提炼”,即禁止使用更高级模型的输出来训练新模型。最后,他希望强制对功能强大的模型进行测试,以确保其安全性。.

阿莫迪认为,这项禁令只会转移trac对真正危险的注意力,正如他所说,“恶意行为者不太可能是合法的美国企业”。阿莫迪向Axios承认, 禁止中国开源软件 确实有助于阻止像他自己的实验室这样的机构与竞争对手竞争,但他坚称“这从来都不是我的初衷”。正如彭博法律报道所指出的,他主要担心的是专制国家开发出比美国产品更先进的人工智能。

人本公司拒绝签署的信函

这是对公众强烈反对的回应。据报道,包括英伟达、Meta和微软在内的二十多家公司此前签署了一封题为“开放权重与美国人工智能领导力”的公开信,呼吁立法者不要对这项技术施加限制(Business Insider 报道)。上周末,OpenAI、谷歌和SpaceX也加入了这一行列,因此到周一,Anthropic是唯一一家尚未加入该行列的大型公司。

硅谷已经意识到了这一点。风险投资家、前特朗普政府人工智能顾问大卫·萨克斯在X网站上警告业界,必须“像老鹰一样紧盯这些人”。

随后,Benchmark 的 Bill Gurley 表示,Anthropic 是在掩盖其“企业经济战略”。中国开源创业公司 01.AI 的创始人李开复则表示,没有签约的人“比签约的人有趣得多”。

从对中国的共同担忧到公开的分裂

这种分歧出现的时间比其根本问题要晚得多。Cryptopolitan Cryptopolitan 称,封闭模型竞争对手在华盛顿联合起来对抗彼此已有一段时间了。今年 7 月,Axios 观察到 OpenAI 和 Anthropic 如何联手提高立法者对中国强大的开放权重模型的认识。这一立场招致了 批评 ,他们认为这可能是监管俘获的案例,会巩固大型公司的影响力。

这场争论的导火索是Kimi K3,这是一款由中国初创公司Moonshot开发的开放权重模型,其价格远低于美国模型。有人指责Moonshot使用Anthropic的Fable模型,通过一种名为“蒸馏”的过程来训练Kimi K3。美国财政部长斯科特·贝森特提议对被发现抄袭美国模型的中国模型实施制裁。随后,Anthropic的两大竞争对手OpenAI和谷歌签署了一封公开信,没有追究Anthropic的责任,并引发了人们的质疑:Anthropic是否为了维护自身商业利益而希望被禁?.

阿莫迪让步了什么,又拒绝了什么

阿莫迪试图在两者之间找到平衡点。他承认开放模型能够提升可及性、促进竞争并赋予用户控制权;他甚至将不具备风险功能的开放模型描述为“公共产品”。然而,他驳斥了信中关于安全性的关键论断,声称他不认为开放权重能够让防御者轻松构建防御体系,也不认为增加访问权限对防御者比对攻击者更有利。在他看来,任何有能力的模型都可能将病毒武器化,而构建防御体系则需要很长时间。.

目前,这种分歧在业内最为明显dent 英伟达借此机会宣布成立 开放安全人工智能联盟(Open Secure AI Alliance),该联盟得到了微软、SpaceX、Hugging Face等公司的支持。英伟达强调,开放技术受法律保护,全面禁止开放技术会赋予少数封闭供应商过大的权力。现在,球在立法者的手中,他们尚未制定相关标准来解决上述问题。

 

最顶尖的加密货币专家都在阅读我们的简报。想 加入他们

常见问题解答

为什么 Anthropic 拒绝签署公开重量级协议?

Anthropic 拒绝加入“开放权重与美国人工智能领导地位”的联名信,因为 Amodei 否认了该信中关于开放模型必然会使人工智能更安全或使网络防御者比攻击者更有优势的说法。批评人士称,这种立场也保护了其封闭模式的业务。.

为什么 Anthropic 拒绝签署公开重量级协议?

Anthropic 拒绝加入“开放权重与美国人工智能领导地位”的联名信,因为 Amodei 否认了该信中关于开放模型必然会使人工智能更安全或使网络防御者比攻击者更有优势的说法。批评人士称,这种立场也保护了其封闭模式的业务。.

阿莫迪希望监管机构采取什么措施来代替禁令?

他呼吁采取三项范围更窄的政策:对流入专制政府的先进芯片进行更严格的控制,打击工业规模的模型提炼,以及对功能足够强大的模型(无论是开放式还是封闭式)进行强制性安全测试。.

是什么引发了关于开放权重人工智能的争论?

中国Moonshot公司推出的无差别级机器人Kimi K3以极低的成本达到了美国前沿机器人的性能水平,这加剧了争论,并引发了白宫对中国机器人进行提炼的指责以及对中国无差别级机器人实施制裁的讨论。.

分享这篇文章

免责声明:本页面提供的信息并非交易建议。Cryptopolitan.com对任何基于本页面信息进行的投资概不负责。我们tron您在做出任何投资决定前进行独立dent /或咨询合格的专业人士。Cryptopolitan研究

阿什什·库马尔

阿什什·库马尔

阿什什·库马尔是一位拥​​有八年新闻从业经验的加密货币和金融记者。他主要报道加密货币市场、监管、 DeFi以及交易所生态系统的最新动态。他曾就职于Coingape、Todayq和Newsroompost等媒体。阿什什拥有印度管理学院加尔各答分校(IIMC)英语新闻专业的研究生文凭(PGDP)。他还采访过包括亚瑟·海耶斯、萧逸、奥斯汀·费德拉等在内的多位业内人士。.

更多…新闻