OpenAI、Nvidia の推論ハードウェアに不満を抱き、AMD、Cerebras、Groq を検討中

OpenAIは、NvidiaのAIチップ、特にユーザーへの回答速度について、もはや満足していない。同社は昨年、他のオプションを探し始め、今ではAMD、Cerebrasと話し合っており、その前にはGroqとも話していたが、それはシャットダウンされた。

この緊張は、OpenAIがNvidiaのチップがコードの作成やソフトウェア間タスクの処理などの特定の用途には十分速くないことに気づいたときに現実味を帯びた。

ある内部関係者は、OpenAIが将来の推論ニーズの少なくとも10％を処理できる新しいチップを望んでいると述べた。それは、AIがユーザーに返信する部分であり、情報を学習する部分ではない。

OpenAI、コーディングとユーザー返信のための高速チップを希望

OpenAIの現在の作業の大部分はまだNvidia上で実行されているが、裏側では、すべてをより速くする可能性のあるチップをテストしている。

これには、SRAMが詰め込まれたチップが含まれており、メモリをプロセッサの隣に置くことで速度を向上させる。NvidiaとAMDは、チップの外側に配置されたメモリを使用しており、これが速度を低下させている。

OpenAIの内部の関係者は、コードを書くツールであるCodexを、遅さが最も大きな問題であった場所として指摘した。一部のスタッフは、弱いパフォーマンスをNvidiaのハードウェアのせいだと非難した。1月30日のプレスコールで、OpenAIのCEOサム・アルトマン氏は、「コーディングモデルを使用する顧客は、コーディング作業の速度に大きなプレミアムを置くだろう」と語った。

サム氏は、通常のChatGPTユーザーは速度にそれほどこだわらないが、開発者や企業にとって、1秒たりとも無駄にできないと付け加えた。彼は、OpenAIがCerebrasと契約を結び、速度を向上させたと語った。

同時に、AnthropicやGoogleなどの企業は、独自のチップを使用してより良い結果を得ている。GoogleのTPUは、推論に必要な作業の種類に特様に構築されている。そのため、ClaudeやGeminiなどのモデルで特に応答が速くなっている。

OpenAIとGroqの協議、Nvidiaのライセンス契約締結により終了

OpenAIは高速チップを開発する別のスタートアップであるGroqとも協議を行っていましたが、その会話は進展しませんでした。NvidiaがGroqと200億ドルのライセンス契約を結びました。これによりNvidiaはGroqの設計へのアクセス権を得て、OpenAIとの提携計画は頓挫しました。

事情に詳しい関係者によると、GroqのチップはOpenAIが必要としていた用途に完全に適合していました。しかし、Nvidiaが契約を確定させたことで、その道は閉ざされました。ライセンスは非独占的でしたが、Groqは今後はクラウドベースのソフトウェアに注力しており、NvidiaはGroqのチップ設計者の一部を引き抜きました。

一方、Nvidiaが買収を試みた際、Cerebrasはこれを拒否しました。その代わりに、CerebrasはOpenAIとの提携を推進しました。Groqもまた、企業価値を約140億ドルとする投資オファーを受けましたが、Nvidiaと結びついたことで状況は変化しています。

OpenAIはNvidiaとの関係を完全に断ち切ったわけではありません。公開声明で、 spokespersonは「我々は推論（inference）フリートの大部分をNvidiaに依存しており、そのパフォーマンス・コスト比は市場最高である」と述べました。Nvidiaもまた、「顧客は引き続き、大規模な運用において最高のパフォーマンスと総所有コストを提供するNvidiaを選択し続けています」と述べています。

Nvidiaの100億ドル投資契約、依然として行方不明

昨年、NvidiaはOpenAIへの最大1000億ドルの投資を計画すると発表しました。この資金はOpenAIがより高度なチップを購入するためのものとなり、その見返りとしてNvidiaは同社の株式を取得する予定でした。Reutersは、この契約が数週以内に完了する予定だと報じていましたが、まだ完了していません。

その契約が停滞している間、OpenAIはAMDやその他の企業と契約を結び、Nvidiaのチップと直接競合しうるチップのテストを進めました。しかし、OpenAIが製品計画を変更したことで、必要とされるハードウェアの種類も変化しました。事情に詳しい人物によると、これが会話をさらに遅らせる要因となりました。

土曜日、NvidiaのCEOであるジェンセン・ファンは摩擦について問われ、「それはナンセンスだ」と述べ、Nvidiaが依然としてOpenAIへの大規模投資を計画していると主張しました。しかし、裏では両社が選択肢を探っていることは明らかです。

同時に、Nvidiaは新たなチップのアイデアを探していました。CerebrasとGroqの両社に買収される意向があるか問い合わせましたが、Cerebrasはこれを拒否し、OpenAIとの提携を強化しました。

現在、OpenAIはGPT4oを主要サービスの基盤として使用しています。しかし、現在の傾向を見ると、近い将来、その作業の一部はAMDまたはCerebrasのチップ上で実行されるようになります。同社はNvidiaを完全に排除しようとしているわけではありませんが、システムがどの程度高速に動作するかについて、より多くの制御権を握りたいと考えているのは明らかです。