NVIDIA H100 GPU 主导 MLPerf 的生成式 AI 基准测试

在首次 MLPerf 基准测试中，NVIDIA 的 H100 Tensor Core GPU 为生成式 AI 性能设立了新标准。基准测试显示，H100 GPU 在所有八项测试中均优于所有其他竞争对手，包括具有挑战性的生成式 AI 测试。GPU 在单个加速器和大规模服务器中均表现出色，为驱动生成式 AI 的大型语言模型 (LLM) 提供了顶级性能。

无与伦比的可扩展性和大规模性能

在由初创公司 Inflection AI 联合开发并由云服务提供商 CoreWeave 运营的 3,584 个 H100 GPU 集群上记录了一项显著成就。该系统在不到十一分钟内完成了一个庞大的基于 GPT-3 的训练基准。CoreWeave 的首席技术官 Brian Venturo 强调，得益于其高速、低延迟 InfiniBand 网络上的数千个 H100 GPU，他们的客户享有卓越的性能。

Inflection AI 利用 H100 GPU 的卓越性能构建了其先进的 LLM，该 LLM 驱动其第一个名为 Pi (个人智能) 的个人 AI。该公司计划创建用户可以以简单、自然方式交互的个人 AI。Inflection AI 的首席执行官 Mustafa Suleyman 强调，任何人都可以基于其在 CoreWeave 强大的 H100 GPU 网络上训练的最先进大型语言模型，体验个人 AI 的力量。

MLPerf 基准测试再次确认了 H100 GPU 的卓越性能。它们在包括大型语言模型、推荐系统、计算机视觉、医学影像和语音识别在内的所有基准测试中实现了最高性能。H100 GPU 是唯一运行所有八项测试的芯片，展示了 NVIDIA AI 平台的多功能性。

基准测试还展示了 H100 GPU 在大规模运行时的卓越表现。在每一项 MLPerf 测试中，H100 GPU 都为 AI 训练设立了新的性能记录。技术堆栈的优化实现了近乎线性的性能扩展，即使提交规模从数百个扩展到数千个 H100 GPU。CoreWeave 的云基础性能与 NVIDIA 本地数据中心 AI 超级计算机实现的性能相媲美，突显了 NVIDIA Quantum-2 InfiniBand 网络的低延迟联网能力。

广泛的生态系统和行业认可

MLPerf 更新了其推荐系统的基准测试，NVIDIA 是唯一一家在增强基准测试中提交结果的公司。这一轮展示了广泛的 NVIDIA AI 生态系统，近 dozen 家公司提交了结果，包括主要系统制造商如 ASUS、Dell Technologies、GIGABYTE、Lenovo 和 QCT。这种参与水平让用户放心，无论是在云端还是在自己的数据中心，他们都可以期待 NVIDIA AI 的卓越性能。

NVIDIA 致力于在所有工作负载中实现卓越性能，这一点在其参与 MLPerf 测试中可见一斑。这些基准测试涵盖了多种工作负载，包括计算机视觉、翻译和强化学习、生成式 AI 以及推荐系统。由于测试过程透明且客观，并有众多行业领袖的支持，用户可以信赖 MLPerf 的结果来做出明智的购买决策。

推动能源效率与软件可访问性

能源效率对 AI 性能的重要性也得到了强调。NVIDIA GPU 在加速数据中心中通过减少服务器节点数量来提高效率，从而节省机架空间和能源消耗。加速网络进一步提升了效率和性能，而持续的软件优化则在相同硬件上带来了额外的收益。高效节能的性能不仅有利于环境保护，还能帮助组织加快产品上市时间并开发高级应用。

NVIDIA AI Enterprise 是 NVIDIA AI 平台的软件层，在领先的加速计算基础设施上提供优化性能。它为企业级支持、安全性和可靠性提供保障，以便在企业数据中心运行 AI。任何希望利用 NVIDIA AI 技术强大功能的人都可以访问这些顶级成果，因为用于 MLPerf 基准测试的软件可通过 MLPerf 存储库获取。