NVIDIA H100 GPUがMLPerfの生成AIベンチマークを支配

著者

アミール・シェイク 3分で読了公開 27月 2023日

NVIDIA の H100 GPU は MLPerf ベンチマークにおいて卓越したパフォーマンスを発揮し、生成 AI の性能を再定義します。
H100 GPU は驚異的なスケーラビリティと大規模環境でのパフォーマンスを示し、ほぼ線形のスケーリングとクラウドベースの成果を実現します。
NVIDIA の H100 GPU は多様なワークロードにおける卓越したパフォーマンスと広範なエコシステムに支えられ、業界から高い評価を得ています。

NVIDIAのH100 Tensor Core GPUは、デビューしたMLPerfベンチマークで生成AIのパフォーマンスにおいて新たな基準を打ち立てました。ベンチマークの結果、H100 GPUは生成AIの困難なテストを含むすべての8つのテストで他の競合他社を凌駕しました。GPUは、アクセラレータ単体および大規模サーバーでのスケールにおいて卓越したパフォーマンスを示し、生成AIを支える大規模言語モデル（LLM）に対して最高のパフォーマンスを提供しました。

比類ないスケーラビリティとスケール時のパフォーマンス

注目すべき成果は、スタートアップのInflection AIが共同開発し、クラウドサービスプロバイダーのCoreWeaveが運用する3,584個のH100 GPUのクラスターで記録されました。このシステムは、大規模なGPT-3ベースのトレーニングベンチマークを11分以内に完了しました。CoreWeaveのCTO、Brian Venturoは、高速で低遅延のInfiniBandネットワーク上の数千個のH100 GPUのおかげで、顧客が享受する優れたパフォーマンスを強調しました。

Inflection AIは、H100 GPUの卓越したパフォーマンスを活用して、その最初のパーソナルAIであるPi（personal intelligence）を支える先進的なLLMを構築しました。同社は、ユーザーがシンプルで自然な方法で対話できるパーソナルAIを作成する計画です。Inflection AIのCEO、Mustafa Suleymanは、CoreWeaveの強力なH100 GPUネットワーク上でトレーニングされた最先端の大規模言語モデルに基づいて、誰でも今日パーソナルAIの力を体験できることを強調しました。

MLPerfベンチマークは、H100 GPUの卓越したパフォーマンスを再確認しました。H100 GPUは、大規模言語モデル、レコメンデーションシステム、コンピュータビジョン、医療画像、音声認識を含むすべてのベンチマークで最高パフォーマンスを達成しました。H100 GPUは、8つのテストすべてを実行した唯一のチップであり、NVIDIA AIプラットフォームの汎用性を示しました。

ベンチマークはまた、スケール時に実行された際のH100 GPUの卓越したパフォーマンスを示しました。MLPerfのテストごとに、H100 GPUはAIトレーニングのパフォーマンス記録を新設しました。テクノロジースタック全体での最適化により、提出物が数百から数千個のH100 GPUにスケールしても、ほぼ線形のパフォーマンススケーリングが可能でした。CoreWeaveのクラウドベースのパフォーマンスは、ローカルデータセンターのNVIDIA AIスーパーコンピュータで達成されたパフォーマンスと同等であり、NVIDIAのQuantum-2 InfiniBandネットワークの低遅延ネットワーク能力を強調しています。

広範なエコシステムと業界の認識

MLPerfはレコメンデーションシステムのベンチマークを更新し、NVIDIAは強化されたベンチマークに結果を提出した唯一の企業でした。このラウンドでは、ASUS、Dell Technologies、GIGABYTE、Lenovo、QCTなどの主要なシステムメーカーを含むほぼ dozen の企業からの提出により、NVIDIA AIの広範なエコシステムが示されました。このレベルの参加は、クラウド上でも自社のデータセンターでも、NVIDIA AIから優れたパフォーマンスが期待できることをユーザーに安心させます。

MLPerfへの参加を通じて、NVIDIAはすべてのワークロードにおけるパフォーマンスへのコミットメントを示しています。ベンチマークは、コンピュータビジョン、翻訳および強化学習、生成AI、レコメンデーションシステムなど、さまざまなワークロードをカバーしています。テストは透明性があり客観的で、広範な業界リーダーによって裏付けられているため、ユーザーはMLPerfの結果に基づいて情報に基づいた購入決定を行うことができます。

エネルギー効率とソフトウェアのアクセシビリティの促進

AIパフォーマンスにおけるエネルギー効率の重要性も強調されました。アクセラレーテッドデータセンターのNVIDIA GPUは、より少ないサーバーノードの使用により、ラックスペースとエネルギー消費を削減することで、効率性を高めます。アクセラレーテッドネットワークはさらに効率性とパフォーマンスを向上させ、継続的なソフトウェア最適化により、同じハードウェア上で追加の利益をもたらします。エネルギー効率の高いパフォーマンスは環境に利益をもたらすだけでなく、組織が市場投入までの時間を短縮し、先進的なアプリケーションを開発するのを支援します。

NVIDIA AIプラットフォームのソフトウェアレイヤーであるNVIDIA AI Enterpriseは、主要なアクセラレーテッドコンピューティングインフラストラクチャ上で最適化されたパフォーマンスを提供します。企業データセンターでAIを実行するためのエンタープライズグレードのサポート、セキュリティ、信頼性を提供します。NVIDIAのAI技術の力を活用したい人は誰でも、MLPerfベンチマークに使用されたソフトウェアがMLPerfリポジトリを通じて利用可能であるため、これらのトップクラスの成果にアクセスできます。

これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。

この記事をシェア