字节跳动创始人张一鸣表示，公司将不会使用蒸馏技术来训练其AI模型。这使该公司区别于其他被指控使用蒸馏技术中国AI实验室。
照片由 Claudio Schwarz 拍摄，来源： Unsplash。
- 字节跳动创始人张一鸣已排除将知识蒸馏用于公司 AI 模型的可能性。
- 这一立场使字节跳动与白宫指控月之暗面（Moonshot AI）为构建 Kimi K3 而采用的隐蔽复制行为区分开来。
- 此举正值华盛顿威胁实施制裁以应对知识蒸馏问题，且中美大模型差距正在缩小的背景下。
此举正值美国官员指控中国实验室使用该技术来缩小与美国AI模型的差距。华盛顿官员甚至威胁要实施制裁。
张一鸣在众人走捷径时划清界限
张一鸣坚决反对在训练公司AI模型时使用蒸馏技术。张一鸣决定更深入地参与字节跳动的AI雄心，并与高级研究人员会面以获取第一手知识，同时密切关注公司的招聘工作。
The Information 报告 这很重要，因为此时正值AI竞赛的关键时期。就在本月，美国官员在打击中国实验室使用蒸馏技术的斗争中升级了力度。字节跳动还拥有Seedance，这是一个盈利且性能领先的视频模型，在中国AI产品中实属罕见。
华盛顿为何对蒸馏技术持保留态度
蒸馏 simply 是指在更强模型的响应上训练较弱的AI模型。这确保较小的AI系统学习模仿较大的系统。蒸馏是公开进行的，并且是AI行业的常规部分。它被认为是合法的，尽管通常是在小规模下进行。
白宫科学与技术政策办公室主任Michael Kratsios
指控 Moonshot AI 在构建其AI系统Kimi K3时蒸馏了Anthropic的Fable模型。
他在X帖子中表示，Moonshot通过一个专门构建的内部平台运行该操作，该平台轮换访问路由以逃避检测，并使用泰国境内的NVIDIA GB300服务器，而根据美国出口规则，这些服务器被禁止出口到中国。
据报道，Anthropic通过虚假账户将340万次Claude对话追踪到Moonshot。Moonshot尚未回应这些指控。
字节跳动如何构建其领先的AI模型Seedance
字节跳动以完全不同的方式迎来了其 转折点 。尽管公司内部对该模型的高成本和激进规模存在争论，但该公司还是对Seedance 2.0进行了赌注。该视频模型旨在突破2000亿参数大关，但被公司内部一些人认为过于雄心勃勃。
随着公司在GPU、数据和世界级招聘上投入巨资，这一举措取得了成功，模型的毛利率徘徊在70-90%之间。
华盛顿称AI差距正在缩小
关于蒸馏的斗争只是冰山一角。财政部长Scott Bessent曾暗示，如果中国公司在工业规模上采用蒸馏技术，将实施制裁。一项两党众议院法案将使识别和制裁蒸馏尝试变得容易。
这些数字促使紧急行动。尽管在AI上的支出是中国的23倍，但美国在AI竞赛中已失去对中国的领先地位。根据斯坦福大学以人为本的人工智能研究所的数据，两国的顶级模型几乎相同。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
常见问题
字节跳动创始人对知识蒸馏有何表态？
张一鸣明确表示不会使用知识蒸馏来训练字节跳动的 AI 模型，从而将公司与当前美中争端焦点中的该技术划清界限。
月之暗面被指控做了什么？
白宫官员迈克尔·克拉齐奥斯（Michael Kratsios）指控月之暗面利用专为内部构建的系统及位于泰国的受限 NVIDIA GB300 服务器，在工业规模上秘密蒸馏 Anthropic 的 Fable 模型，以此构建 Kimi K3。
字节跳动的 Seedance 模型如何在未使用知识蒸馏的情况下取得成功？
字节跳动在人才、数据和GPU方面投入巨大，并支持研究员曾严推动将Seedance 2.0扩展至超过2,000亿参数，从而打造出一个如今驱动火山引擎模型即服务收入超过一半的模型。
Hannah Collymore
汉娜是一位作家兼编辑，在加密货币领域拥有近十年的博客写作和活动报道经验。在Cryptopolitan，汉娜负责新闻板块，报道和分析DeFi、RWA、加密货币监管、AI和前沿科技行业的最新发展。她毕业于阿卡迪亚大学，获得工商管理学位。
