OpenAI表示对Nvidia推理硬件不满意，现在正在考虑AMD、Cerebras、Groq

OpenAI不再对Nvidia的AI芯片满意，尤其是当涉及到它们回答用户的速度时。该公司去年开始寻找其他选择，现在它正在与AMD、Cerebras交谈，甚至在此之前还与Groq交谈，但后者被阻止了。

当OpenAI意识到Nvidia的芯片对于编写代码和处理软件到软件任务等特定任务不够快时，这种紧张关系变得真实起来。

据一名内部人士称，OpenAI希望新芯片能够处理其未来至少10%的推理需求。这是AI回复用户的部分，而不是它学习知识的部分。

OpenAI希望更快的芯片用于编码和用户回复

OpenAI目前的大部分工作仍在Nvidia上运行，但在幕后，它正在测试可以使一切更快的芯片。

其中包括装满SRAM的芯片，这有助于通过将内存直接放在处理器旁边来加快速度。Nvidia和AMD仍然使用位于芯片外部的内存，这会减慢速度。

OpenAI内部人士指出，Codex（编写代码的工具）是速度问题最严重的地方。一些员工甚至将性能弱归咎于Nvidia的硬件。在1月30日的电话会议上，OpenAI首席执行官Sam Altman表示，“使用我们编码模型的客户将对编码工作的速度给予高度重视。”

Sam补充说，普通ChatGPT用户不太关心速度，但对于开发人员和公司来说，每一秒都很重要。他说OpenAI刚刚与Cerebras签署了一项协议，以帮助加快速度。

与此同时，Anthropic和Google等公司使用自己的芯片取得了更好的结果。Google的TPU专为推理工作类型构建。这使得它们在响应方面更快，特别是对于Claude和Gemini等模型。

OpenAI-Groq谈判因Nvidia许可协议而终止

OpenAI还与另一家构建快速芯片的初创公司Groq进行了谈判，但这些对话没有取得太大进展。Nvidia介入并与Groq签署了200亿美元的许可协议。这使Nvidia能够访问Groq的设计，并扼杀了OpenAI与他们合作的计划。

一位接近情况的消息人士称，Groq的芯片正是为OpenAI的需求而建造的。但一旦Nvidia敲定了这笔交易，那扇门就关闭了。尽管许可是非排他性的，但Groq现在专注于基于云的软件，而Nvidia则接管了Groq的一些芯片设计师。

另一方面，当Nvidia试图收购Cerebras时，Cerebras拒绝了。相反，他们继续与OpenAI达成协议。Groq也收到了将其价值定为约140亿美元的投资报价，但自从它与Nvidia捆绑在一起后，情况已经发生了变化。

OpenAI并没有完全放弃Nvidia。在一份公开声明中，一位发言人表示，“我们依赖Nvidia为我们提供大部分推理集群的动力”，并称之为市场上性价比最高的选择。Nvidia也表示，“客户继续选择Nvidia进行推理，因为我们在规模上提供了最佳性能和总拥有成本。”

100十亿美元Nvidia投资交易仍陷入僵局

去年，Nvidia表示计划向OpenAI投资高达1000亿美元。这笔现金旨在帮助OpenAI购买更先进的芯片，作为回报，Nvidia将获得该公司的股份。路透社称，该交易应在几周内完成。它还没有。

在该交易停滞的同时，OpenAI继续与AMD和其他公司签署协议，以测试可以直接与Nvidia竞争的芯片。但随着OpenAI改变其产品计划，它所需的硬件类型也发生了变化。据一位知情人士称，这进一步减缓了谈判。

周六，Nvidia首席执行官Jensen Huang被问及摩擦问题时，他说，“那是胡说八道”，并坚持认为Nvidia仍计划向OpenAI进行大规模投资。但在幕后，很明显双方都在探索他们的选择。

与此同时，Nvidia一直在寻找新的芯片理念。它联系了Cerebras和Groq，看看他们是否愿意被收购。Cerebras拒绝了这一提议，并加倍投入其与OpenAI的协议。

目前，OpenAI使用GPT4o为其大多数服务提供动力。但按照目前的发展，至少部分工作将在不久的将来由AMD或Cerebras的芯片运行。该公司并不试图完全抛弃Nvidia，但很明显，它希望更多地控制其系统的工作速度。