英伟达新款Blackwell芯片大幅缩短AI训练时间

英伟达新款Blackwell芯片正在改变人工智能系统的训练速度。

在MLCommons（一个跟踪和比较AI芯片能力的非营利组织）于周三发布的最新基准测试结果中，由Nvidia编程的Blackwell架构创下了纪录。

在使用Meta开源的Llama 3.1 405B模型（其最大、最复杂的AI模型之一）进行测试时，训练仅耗时 仅 27 分钟 便已完成，使用的是Blackwell芯片。此次测试仅使用了2,496块Blackwell GPU，比使用英伟达上一代Hopper芯片所需的数量少了一个数量级。

相比之下，之前的设计使用了超过三倍数量的 Hopper GPU 才能达到同等性能。就单芯片而言，Blackwell的速度是之前的两倍以上，这在收敛效率上是一个巨大的飞跃。这种性能提升可能为训练万亿参数模型的组织带来巨大的时间和成本节约。

据信，这些结果是首批 MLCommons 针对如此极端规模进行模型训练的基准测试，提供了芯片处理最苛刻AI工作负载能力的真实世界衡量标准。

CoreWeave与英伟达共同推动更智能的AI扩展

这些结果不仅是英伟达的胜利，也凸显了CoreWeave的工作，这是一家在测试中合作的云基础设施公司。CoreWeave首席产品官Chetan Kapoor在新闻发布会上指出，行业正朝着一个越来越合理的方向发展：远离由数万个GPU组成的大型同质化集群。

公司现在不再构建单一、庞大、单体式的计算系统，而是转向更小的、相互连接的子集，以更高效、更具扩展性的方式管理大规模模型训练。

Kapoor表示，通过这种技术，开发人员可以继续扩展或缩短训练具有万亿参数的大型模型所需的时间。

随着AI模型规模和复杂性的不断膨胀，向硬件模块化部署转变也是必要的。

Blackwell使英伟达在AI模型训练领域处于领先地位

虽然近期的焦点已转向AI推理，即ChatGPT1等模型实时回答用户问题，但训练仍然是AI开发的基石。.

训练部分赋予这些模型智慧，使它们能够理解语言、解决我们最具挑战性的问题，甚至生成类人文本。这种计算需求极高，需要数千个高性能芯片长时间运行，通常为数天，甚至数周或数月。

随着 英伟达Blackwell架构的出现，这种情况发生了改变。通过大幅减少训练庞大AI模型所需的芯片数量和耗时，Blackwell芯片使英伟达在速度和效率主导的市场中占据了更有利的位置。 

训练Meta的Llama 3.1 405B等具有万亿参数的模型，此前必须在巨大的GPU集群上运行，这是一个昂贵且耗能的过程。 

在各行各业对越来越大、越来越强大的AI模型需求激增之际，这种性能提升是一个巨大的优势——从医疗保健、金融到教育和自动驾驶汽车。

这也向英伟达的竞争对手发出了一个明确的信号。现在，正在开发其专用AI芯片的芯片公司如AMD和Intel面临着更大的压力，需要保持类似的步伐。

AMD提交了MLCommons基准测试，但未展示针对Llama 3.1 405B这样大规模模型的测试结果。英伟达是唯一在高段基准测试中进行测试的公司，证明了其优越的硬件实力以及迎接最艰难挑战的意愿。