OpenAIは、独自のチップ、独自のインフラ、そしてニューヨーク市2つを照らすのに十分な電力で稼働する、機械で構築された文明の青写真らしきものを描き出している。.
同社の大規模な AI 都市構想は、実現がほぼ不可能なビジョンに基づいています。それは、CEO のサム・アルトマン氏が「未来のコンピューティングの背骨」と呼ぶものをサポートするために、ブロードコムと提携して数十億個のカスタム チップを設計、製造することです。.
サム氏はウォール・ストリート・ジャーナルに対し、人々が求める人工知能サービスを提供するには、ユーザー1人当たり少なくとも1個のAI専用チップが必要となり、その額は数十億に上るという驚くべき予測だと語った。.
アレン人工知能研究所所長のアリ・ファルハディ氏は、この規模を支持し、AIが約束されたペースで人間の労働を代替するならば、「世界は従来型チップと同数のAIチップを必要とするだろう」と述べた。OpenAIにとって 、これはコスト、消費電力、そして需要の爆発的な増加に伴うモデルの長期的な存続といった、コントロールの問題である。
OpenAIは次世代コンピューティングのためにブロードコム、NVIDIA、メモリ大手を連携
もちろん、NVIDIA は依然として AI トレーニング分野を支配しており、市場シェアは約 70% です。そのため、OpenAI はモデルのトレーニングに同社の GPU を使い続ける必要があります。.
しかし、OpenAIは現在、パイプラインを分割しています。学習はNVIDIAで行われ、推論（ユーザーに回答を提供するプロセス）はBroadcomのカスタムチップに移行します。この2つのtracの設計により、1パーセント単位の削減が重要となる規模で、費用と消費電力を削減できる可能性があります。.
SemiAnalysisの半導体研究者であるジョーダン・ナノス氏は、 と述べた 。これらのチップは汎用的なものではなく、OpenAIのモデル専用に設計されており、同社が最近提携したサムスンとSKハイニックスの2社が提供する高帯域幅メモリに依存している。
このタイプのメモリはプロセッサ間のデータ移動を高速化するため、OpenAIのPulseのようなシステムにとって非常に重要です。Pulseは毎日ウェブをスキャンしてユーザーに情報を提供するAIエージェントです。Pulseは非常に多くの計算能力を消費するため、サム氏によると、月額200ドルのProプランを契約しているユーザーのみが利用できるとのことです。.
この高帯域幅メモリへの依存は、OpenAIのモデルの動作に直接関係しています。初期のニューラルネットワークは「密」であり、クエリごとにシステムの大部分を活性化していました。一方、新しいニューラルネットワークは「疎」であり、特定のエキスパートセクションのみを活性化します。.
現代のシステムでは、質問に答えるためにモデルの25%を使用する代わりに、わずか数%のトリガーを使用します。この差により消費電力が大幅に削減され、応答時間が短縮されます。この疎なロジックを基盤としてチップが構築されると、効率は飛躍的に向上します Broadcom このハードウェアを実現しているのは
OpenAIのギガワット規模のAIスーパーコンピュータがインフラを再defi
サム氏によると、OpenAIの現在のコンピューティング能力は約2ギガワットで、世界中のデータセンターに分散しているという。Broadcomとの提携は、2030年までに10ギガワットまで増強することを目指しており、関係者が「AIシティ」と呼ぶ、BroadcomのTomahawk Ultraネットワークチップで接続されたサーバー、ストレージ、カスタムインターコネクトが密集したキャンパスの物理基盤を構築する。.
これは波のほんの一部に過ぎない。過去3週間で、 OpenAIは AMDとNvidiaとの新たな契約により16ギガワットの容量を追加し、総容量は1兆ドル近い投資を必要とするレベルに達した。
xAIのメンフィス・コロッサスは、この秋にすでに1.21ギガワットの発電量を達成しました。ルイジアナ州にあるMetaのハイペリオン施設は2.3ギガワットの発電量が承認されており、マーク・ザッカーバーグは5ギガワットの発電量を目標としています。AIのエネルギー競争は、まさに世界規模で展開されています。.
サム氏はこの変革を「史上最大の共同産業プロジェクト」と表現し、これらの取引でさえ「私たちが目指すべき目標に比べれば、ほんの一握りだ」と述べた。彼の目標の一つは、サプライヤーの多様化だ。.
オラクルがテキサス州アビリーンに建設中のスターゲイト・キャンパスは、主にNVIDIAのチップを活用したAIトレーニングに重点を置く。AMDのハードウェアが推論ワークロードを処理し、ブロードコムのカスタムシリコンが効率性のギャップを埋める。.
ナノス氏は「OpenAIはかなり先の未来を見据えて、十分なチップ供給を確保しようとしている」と述べた。
