最新新闻
为您推荐

中国电信开发 exclusively 基于华为芯片的 MoE AI 模型

作者Florence MuchaiFlorence Muchai 3 分钟阅读
中国电信开发 exclusively 基于华为芯片的 MoE AI 模型
  • 中国电信已开发出中国首个基于混合专家(MoE)架构的AI模型,该模型完全使用华为昇腾910B芯片进行训练。
  • TeleAI 研究人员表示,华为堆栈满足了跨各种规模训练大规模 MoE 模型的“严峻要求”。 
  • 此后,英伟达股价下跌约3%,原因是供应商暂停了H200组件的生产。

中国电信开发了该国首批采用创新混合专家(MoE)架构的人工智能模型,这些模型完全在华为技术公司的先进芯片上进行训练。

根据中国电信人工智能研究所(TeleAI)上个月发布的技术论文,TeleChat3 模型参数量从 1050 亿到数万亿不等,是在华为的 Ascend 910B 芯片及其开源深度学习 AI 框架 MindSpore 上训练的。

TeleAI 研究人员表示,华为堆栈满足了跨各种规模训练大规模 MoE 模型的“严峻要求”。 “这些贡献共同解决了前沿规模模型训练中的关键瓶颈,建立了一个适合国内计算生态系统的成熟全栈解决方案,” 他们 补充道. 

中国电信的模型落后于 OpenAI 的 GPT-OSS-120B

MoE 架构将任务分配给多个专门的子模型,或“专家”。因此,使用它开发的 AI 模型可以在不显著增加计算开销的情况下扩展容量。MoE 由 DeepSeek 于 2024 年 12 月发布的 V3 模型普及,此后已成为领先的中国 AI 模型的标准。

然而,MoE 模型被认为在训练和运行方面技术要求更高。中国电信自我报告的 TeleChat3 模型性能分数显示,它们在几个基准测试中落后于 8 月发布的 OpenAI 的 GPT-OSS-120B。

上周,清华大学 spin-off 公司表示,其新的图像生成模型是在华为芯片上训练的,使其成为第一个在完全国内训练堆栈上开发并在图像生成方面取得行业领先分数的开源模型。

北京智谱 AI 去年一月被华盛顿列入黑名单。 美国已将包括华为和科大讯飞在内的几家中国科技公司列入出口管制黑名单。这实际上禁止它们获得美国原产的芯片、半导体工具和其他先进技术。

蚂蚁集团研究人员,阿里巴巴集团控股的金融科技附属公司,也表示他们成功训练了一个 3000 亿参数的 MoE 模型,“无需高端 GPU”。然而,他们没有具体说明是否 exclusively 使用了国内设计的芯片。

与此同时, 在 6 月报道 据Cryptopolitan报道,追踪中国本土科技股的纳斯达克风格指数本月已飙升近13%。另一项追踪在香港上市的中国科技公司的指标上涨6%,两者均将纳斯达克100指数抛在身后。

英伟达股价暴跌,北京宣布实现自主可控

英伟达表示,其先进的GPU和机器学习框架是全球训练大规模MoE模型的最佳工具。然而,由于美国贸易限制阻碍了中国企业获取先进美国芯片,北京已将实现整个AI栈的自主可控作为未来五年的国家关键优先事项。

美国政府最近批准英伟达向中国出售H200,这是该公司第二强大的芯片。然而,中国采取措施阻止先进芯片的运输。Cryptopolitan 在 6 月报道 指出北京可能正在考虑实施限制措施以促进本地芯片发展或加强其与美国谈判的地位。

因此,供应商在禁令后暂停了H200组件的生产。英伟达原本预计中国客户会有超过100万份订单,供应商已为3月份的交付做好准备,但据报道海关官员拒绝芯片入境。

报道发布后,英伟达股价下跌约3%。分析师表示,英伟达面临明确的风险。如果中国继续阻止H200运输,股价可能会跌破关键短期支撑位。如果审批放宽,提振效应可能会迅速到来,但政策不确定性具有两面性。 

另一方面,其他芯片制造商表现不一,AMD上涨1.7%,英特尔下跌2.8%,而标普500 ETF SPY下跌约0.1%。与此同时,市场观察人士正在关注英伟达即将在2月25日发布的季度财报及其中国出口情况的任何新细节。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Florence Muchai

Florence Muchai

Florence 过去 6 年一直报道加密货币、游戏、科技和人工智能新闻。她在梅鲁科技大学修读计算机研究,并在马林加莫伊科学与技术大学学习灾害管理与国际外交,这些经历充分赋予她语言、观察和技术技能。Florence 曾在 VAP Group 工作,并担任多家加密货币媒体的编辑。

更多新闻…