最新新闻
为您推荐

DeepSeek 披露其 AI 模型训练成本为 $294,000

作者Enacy MapakameEnacy Mapakame 3 分钟阅读
Deepseek 即将向联合国安理会简报 AI 风险
  • 中国AI公司称其模型训练成本仅为$294,000。
  • 这一数字远低于美国竞争对手,引发了行业新的疑问。
  • DeepSeek否认抄袭竞争对手模型的输出内容。

中国的 DeepSeek 声称,其旗舰 AI 系统 R1 的训练成本仅为 294,000 美元,这仅是美国竞争对手被认为花费金额的一小部分。

这些细节本周发表在《自然》杂志的一篇同行评审论文中,可能会进一步激发关于北京在全球人工智能竞赛中雄心的辩论。这家位于杭州的公司表示,该专注于推理的模型使用 512 块 Nvidia H800 芯片进行训练。这些硬件是专为中国市场设计的,因为美国禁止销售更强大的 H100 和 A100 处理器。

由创始人梁文锋合著的这篇论文,标志着该公司首次披露此类成本。

DeepSeek 的成本仅为美国模型的一小部分

今年 1 月,DeepSeek 更便宜的 AI 工具发布导致全球市场动荡,引发科技股抛售,人们担心它们可能会削弱 Nvidia 和 OpenAI 等老牌巨头的地位。

然而,梁及其团队一直低调行事,自那以后仅偶尔发布产品更新。

据报道的 294,000 美元价格标签与美国公司的估计形成鲜明对比。

OpenAI 的首席执行官 Sam Altman 在 2023 年曾表示:“训练基础模型的成本远高于 1 亿美元。”然而,他没有给出任何具体的细分。

训练 大型语言模型 需要长时间运行强大的芯片集群,在处理文本和代码时消耗大量电力。行业观察家长期以来认为此类项目的成本高达数千万甚至上亿美元。

这种假设现在正受到挑战,在一份补充文件中,DeepSeek 承认它拥有 A100 芯片,并在早期开发中使用了它们,随后将全规模训练转移到其 H800 集群上。据该科技公司称,模型在最后训练阶段运行了 80 小时。

尽管 Nvidia 坚持认为这家中国初创公司只能访问其 H800 处理器,但美国官员仍持怀疑态度。几个月前,美国消息人士告诉 路透社,DeepSeek 非法拥有大量被禁止出口到中国的 H100 芯片。

将创新置于显微镜下

R1 不仅因其低训练成本而受到关注,还因为它可能是第一个接受正式同行评审的主要模型。

Hugging Face 的机器学习工程师 Lewis Tunstall 在评审《自然》杂志论文时表示:“这是一个非常受欢迎的先例,如果我们没有这种共享规范,评估风险将变得非常困难。”

评审过程促使 DeepSeek 澄清技术细节,包括其模型的训练方式以及所采取的安全措施。

俄亥俄州立大学的 AI 研究员 Huan Sun 表示:“经过严格的同行评审过程肯定有助于验证模型的有效性和实用性。”

DeepSeek 的关键突破在于使用纯粹的 强化学习方法。根据论文所述,该模型不依赖人工策划的推理示例,而是因正确解决问题而获得奖励,并逐渐发展出自己的问题解决策略。

该公司表示,这种试错系统允许 R1 在不复制人类策略的情况下验证其工作原理。

Sun 补充道:“该模型影响很大。2025 年几乎所有的强化学习工作可能在某种程度上都受到 R1 的启发。”

DeepSeek 否认抄袭指控

R1 发布后不久,就有猜测称 DeepSeek 依赖竞争对手(特别是 OpenAI)的输出以加速训练;然而,该公司现已明确否认了这一指控。

在与审稿人的通信中,DeepSeek 坚持认为 R1 没有复制 OpenAI 生成的推理示例。然而,与大多数大型语言模型一样,它是在互联网文本上训练的。这意味着不可避免地包含了一些 AI 生成的内容,这一解释说服了一些审稿人。

Tunstall 说:“我不能 100% 确定 R1 没有使用 OpenAI 示例进行训练。然而,其他实验室的复制尝试表明,强化学习本身已经足够好。”

DeepSeek 表示,R1 专为擅长推理密集型任务(如编码和数学)而设计。与美国公司开发的大多数封闭系统不同,它作为开放权重模型发布,研究人员可免费下载。在 AI 社区网站 Hugging Face 上,它已被下载超过 1000 万次。

该公司在开发 R1 所基于的基础模型上花费了约 600 万美元,但即使加上这笔费用,其成本仍远低于竞争对手的总和。对于该领域的许多人来说,这使得 R1 具有吸引力。

Sun 及其同事最近在该系统的科学数据任务上进行了测试,发现它并非最准确,但在成本效益方面名列前茅。

 

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

Enacy Mapakame

Enacy Mapakame

Enacy Mapakame 是一位拥有超过 10 年商业与财经新闻经验的记者。她专注于资本市场及新兴技术领域,涵盖元宇宙、人工智能和加密货币。Enacy 拥有媒体与社会研究荣誉学士学位。

更多新闻…