Metaが社内AIチップを発表、Nvidia依存度低減を巡る競争が加速

Metaは、大手テック企業全体でNvidiaへの依存を減らす競争が激化する中、カスタムAIチップへの参入を加速させている。

同社は、2023年にMeta Training and Inference Accelerator（MTIA）を開始し、今後2年間で4つの新しいチップ世代の準備を進めていると述べた。

Metaによると、これらのチップは、Metaの製品全体でのランキング、レコメンデーション、GenAIのタスク用に構築されている allegedly とされている。

同社はまた、1つのサプライヤーや1つのハードウェアに依存していないとも述べた。Metaは、複数の業界プレイヤーからシリコンを購入し続けながら、独自のAIインフラストラクチャ計画の中心にMTIAを置く計画だ。

同社の言葉によれば、AIワークロードの増加と変化に伴い、「ポートフォリオアプローチ」を採用している。これは、1つのベンダーに全体を任せるのではなく、外部チップと自社シリコンを組み合わせることを意味する。

Metaはより速いスケジュールで4つのMTIAチップ世代をリリース

Metaは、アプリ全体のオーガニックコンテンツと広告に関連する推論作業に、数十万個のMTIAチップをすでに使用していると述べた。

これらのチップは、同社の独自のタスク用に構築されており、一般利用向けではない。これは重要だ。Metaは、このハードウェアがカスタムフルスタックソリューションの一部であり、毎日の業務により調整されたシステムを提供しているためだ。

同社は、このセットアップにより、特定のユースケースでより良い計算効率を実現し、汎用チップと比較してコストを削減できると述べた。

次の段階はより大規模な展開である。Metaは、MTIA 300、400、450、500を構築中であり、各バージョンは計算能力、メモリ帯域幅、効率性の向上をもたらす。MTIA 300はすでに生産段階にあり、ランキングやレコメンデーションのトレーニングを担当する。

MTIA 400、450、500はすべてのワークロードを実行できるが、Metaはこれらのチップが主にGenAI推論の生産に使用され、2027年までその用途が続くと述べた。

同社はまた、シリコンがモジュール式であり、新しいチップが既存のラックシステムインフラストラクチャにスムーズに組み込まれるため、設計から展開までの待ち時間を短縮できると述べた。

リリース速度について、Metaは業界が通常1〜2年に1回新しいAIチップをリリースするのに対し、モジュール式デザインを再利用することで、6ヶ月以内、あるいはそれより短い間隔で自社チップをリリースする能力を持っていると述べた。

Metaは推論とオープンスタンダードを中心にAIチップ戦略を構築

同社は、MTIA戦略は3つの部分に支えられていると述べた。それは、高速な反復、推論ファーストのデザイン、そして共通の標準を通じた容易な採用だ。

最初の点について、Meta は、短いリリースサイクルにより、AI技術の変化に合わせて迅速に調整し、新しいハードウェア技術を取り入れ、新しいチップバージョンの開発と展開のコストを削減できると述べた。

2番目の点について、Metaは自社の計画と通常の市場モデルの間に線引きを行った。同社は、主流のチップの多くはまず大規模なGenAI事前トレーニング用に構築され、その後他のタスクに使用されることが多く、コスト面で劣ることが多いと述べた。

Metaは、逆を行っているとも述べた。MTIA 450と500はまずGenAI推論用に調整され、その後、必要に応じてランキング、レコメンデーションのトレーニングと推論、GenAIトレーニングに使用される。

同社はまた、MTIAはPyTorch、vLLM、Triton、Open Compute Projectなどの標準ツールやシステムから構築されており、システムおよびラックデザインもデータセンターでの使用のためにOCP標準に従っていると述べた。

Metaは、単一のチップがすべての需要をカバーすることはできないため、異なるワークロードに対して異なるチップを展開し、「すべての人のためのパーソナルスーパーインテリジェンス」を目指すと述べた。