Nvidiaの新しいBlackwellチップは、AIトレーニング時間を大幅に短縮

Nvidiaの新しいBlackwellチップは、人工知能（AI）システムのトレーニング速度を劇的に変えています。

水曜日にMLCommons（AIチップの能力を追跡および比較する非営利団体）が発表した最新のベンチマーク結果において、NvidiaによってプログラミングされたBlackwellアーキテクチャが記録を樹立した。

MetaのオープンソースであるLlama 3.1 405Bモデル、その中でも最大かつ最も複雑なAIモデルの一つでテストしたところ、トレーニングは わずか27分で完了しました Blackwellチップを使用し、Nvidiaの以前のHopperチップと比較して桁違いに少ない、2,496個のBlackwell GPUのみで達成されました。

対照的に、以前の設計では同等の性能を発揮するために Hopper GPUを 3倍以上使用していました。チップ単体で見ると、Blackwellは2倍以上の速度を示し、収束効率において大きな飛躍となりました。このパフォーマンスの向上は、トリリオン（1兆）パラメータのモデルをトレーニングする組織にとって、大きな時間とコストの節約につながります。

これらの結果は、 MLCommons による、これらの極端な規模でのモデルトレーニングのベンチマークとして初めてのものであり、チップが最も要求の厳しいAIワークロードをどのように処理するかという現実的な測定値を提供しています。

CoreWeaveとNvidiaが推進する、より賢明なAIのスケーリング

これらの結果はNvidiaにとって勝利であるだけでなく、テストに協力したクラウドインフラ企業であるCoreWeaveの取り組みも浮き彫りにしました。記者会見でCoreWeaveのチーフプロダクトオフィサーであるChetan Kapoor氏は、業界でますます理にかなっている一般的な方向性を指摘しました。それは、数万個のGPUからなる巨大で均質なブロックから離れることです。

単一の巨大でモノリシックなコンピューティングシステムを構築するのではなく、企業は今や、より効率的に大規模なモデルトレーニングを管理し、より良いスケーリングを実現できる、相互接続された小規模なサブセットに注目しています。

Kapoor氏は、このような手法により、開発者はトリリオンパラメータを持つ超大型モデルのトレーニングに必要な時間を、さらに拡大または縮小し続けることができると述べました。

AIモデルのサイズと複雑さが膨張し続ける中、ハードウェアのモジュール化されたデプロイメントへの移行も必要不可欠です。

Blackwellにより、NvidiaはAIモデルトレーニングで首位を確保

最近の焦点はChatGPT1のようなモデルがユーザーの質問にリアルタイムで答えるAI推論へと移っていますが、トレーニングはAI開発の主力であり続けています。.

トレーニングの過程で、これらのモデルは言語を理解し、最も困難な問題のいくつかに対処し、さらには人間のような文章を生み出すための「知性」を獲得します。この計算は非常に要求が高く、通常は数日、場合によっては数週間または数ヶ月にわたり、数千個の高性能チップが必要となります。

それが NvidiaのBlackwellアーキテクチャによって変化しました。巨大なAIモデルのトレーニングに必要なチップ数と時間を大幅に削減することで、Blackwellチップは、速度と効率性が支配する市場でNvidiaにより有利な立場をもたらしています。 

MetaのLlama 3.1 405Bのようなトリリオンパラメータを持つモデルのトレーニングは、以前は巨大なGPUクラスター上で実行する必要があり、エネルギーを大量消費する高コストなプロセスでした。 

このようなパフォーマンスの向上は、医療、金融、教育、自動運転車など、多くの業界で、より大規模で強力なAIモデルへの需要が急増している時期において、大きな追い風となります。

また、これはNvidiaの競合他社に対する明確なメッセージでもあります。現在、AI専用チップを開発しているAMDやIntelなどのチップ企業は、同様のペースを維持するためにさらなる圧力を受けています。

AMDはMLCommonsのベンチマークテストに参加しましたが、Llama 3.1 405Bのような大規模なモデルの結果は示していませんでした。Nvidiaはベンチマークの最高レベルでテストを行った唯一の企業であり、それが最上位のハードウェアであり、最も困難な課題を引き受ける用意があることを証明しました。