Broadcom、Nvidiaに対抗するためTomahawk Ultraチップを発表

Broadcomのチップ部門は火曜日、数百の計算ユニット間の緊密な調整を必要とする人工知能ワークロードを強化するために設計された新しいネットワークプロセッサをリリースしました。

この発表は、AIチップ製造のリーダーであるNvidiaとの争いにおけるもう一つの攻撃を示しています。この最新のBroadcomデバイス、Tomahawk Ultraは、交通整理役として機能し、単一のサーバーラック内に収められた数十、あるいは数百のシリコンチップ間で膨大な量のデータを転送します。

Tomahawk UltraはNvidiaに直接挑戦

AIのトレーニングと推論は、「スケールアップ」コンピューティングに依存しており、チップはデータを一瞬で共有するために密接にクラスター化されます。これまで、このタスクではNvidiaのNVLink Switchが君臨していましたが、Broadcomは新製品が単一のネットワークで最大4倍のプロセッサを接続できると主張しています。

独自のプロプライエタリなインターコネクトに頼るのではなく、Ultraは低レイテンシと高スループットのために強化されたEthernetのターボチャージド版を利用します。Broadcomのコアスイッチンググループのシニアバイスプレジデント兼ゼネラルマネージャーであるRam Velaga氏は、記者団に対し、このチップはNvidiaの競合製品よりもはるかに多くのユニット間の通信を管理でき、かつ広くサポートされているプロトコルを使用していると語りました。

「Tomahawk Ultraは革新の証であり、何百人ものエンジニアがEthernetスイッチのあらゆる側面を再考した長年の取り組みの結果です。」

ベラガ氏。

「これは、Broadcomが高パフォーマンスネットワークとAIスケールアップのためにEthernetの進化に投資するコミットメントを強調しています」と、ベラガ氏は付け加えました。

BroadcomはすでにGoogleのような顧客にチップ製造サービスを提供しており、検索大手がNvidia GPUに代わる独自のAIアクセラレータを組み立てるのを支援しています。

Tomahawk Ultraの出荷が始まったことで、同社はデータセンターアーキテクトにより、同程度、あるいはより良い速度でより大きなクラスターにスケーリングできるスイッチを提供し、Nvidiaの支配力をさらに侵食することを期待しています。

Broadcomのエンジニアは約3年間開発に費やした

プロセッサは、台湾セミコンダクター・マニュファクチャリング・カンパニー（TSMC）によって、世界で最も高速なチップの多くに使用されている5ナノメートルノードで製造されます。ベラガ氏は、Broadcomのエンジニアリングチームが開発に約3年間費やし、当初はハイパフォーマンスコンピューティング市場を対象としていたが、急成長する生成AIセクターに pivot したと指摘しました。

「AIとHPCのワークロードは、推論、信頼性、およびファブリック自体からのネットワークインテリジェンスに不可欠なスーパーコンピュータクラスのレイテンシを要求する、密結合されたアクセラレータクラスターに収束しています」と、Bloomberg Intelligenceのリード半導体アナリストであるKunjan Sobhani氏は述べています。

「オープンスタンダードのEthernetが、サブマイクロ秒のスイッチング、ロスレストランスポート、オンチップコレクティブを達成できることを実証することは、今後数年で桁違いの規模に達すると見込まれるAIスケールアップスタックの需要に応えるための画期的な一歩です。」

ソバンニ氏。

従来のスケールアウト設定では、サーバーはラック全体に分散され、標準ネットワークで接続されるため、レイテンシが発生します。一方、スケールアップは、計算要素を狭い物理的範囲（しばしば単一のラック内）に保持するため、ビットはマイクロ秒単位で往復します。この種の速度は、大規模なニューラルネットのトレーニングやリアルタイム推論を実行する際に不可欠です。

AIモデルがますます巨大化する中、エクサバイト規模のパラメータを処理しながらコスト効果と電力効率を維持できるインフラ設計の競争が激化しています。Broadcomは、よく理解されたオープンスタンダードであるEthernetを採用し、そのパフォーマンス限界を押し広げることで、ベンダーのエコシステムにロックインされることなく、AIファームの拡張を容易にする道を提供することを期待しています。

Tomahawk Ultraが顧客の手に渡ったことで、世界のAIエンジンを供給する競争は、オープン性とスケールが純粋なチップの性能と同様にバランスを崩す可能性がある、より混雑した新フェーズに入りました。これにより、BroadcomはAI業界で無視できない存在となる道筋も整いました。

同社は、第1四半期にTSMC、Nvidia、AMDと共にIntelの工場に出資し、共同で運営する主要企業の一つになると見込まれていました。この取引はTSMCによって提案されたと報告されています。