OpenAI 推出 Jalapeño 芯片，声称大幅超越 Nvidia GB300

OpenAI 发布了其内部推理芯片 Jalapeño（与 Broadcom 合作开发）的首批基准测试结果。

该公司声称，与所测量的 Nvidia GB200 和 GB300 机架系统相比，该芯片每瓦特能完成更多的 AI 工作，并且返回答案的速度更快。

OpenAI 的新芯片表现如何？

OpenAI 已 发布基准测试结果 其新的内部 AI 芯片，名为 Jalapeño。该芯片通过了 InferenceX 的测试，这是 SemiAnalysis 的一项公开基准测试，用于衡量服务 AI 请求的完整工作负载，并在 OpenAI 自己的 GPT-OSS 120B、DeepSeek 的 R1 670B 和 Moonshot AI 的 Kimi K2.5 1T 上进行了测试。

OpenAI 表示，其新芯片每单位电力完成的工作量是其他被测系统的 1.5 到 1.9 倍。它的响应速度也快了 1.7 到 3.6 倍。

对于需要大量来回交互的最具互动性的任务，差距扩大到了 2.1 到 4.1 倍。

OpenAI 的硬件副总裁 Richard Ho 告诉记者，该芯片能够同时处理更多的工作并更快地响应，这是大多数芯片无法同时做到的。

比较对象是 Nvidia 的 GB200 和 GB300 超级芯片，它们是 InferenceX 当时记录的最佳结果。在测试的最大模型 Kimi K2.5 上，OpenAI 表示 Jalapeño 达到了约 1.5 倍的峰值每瓦性能，延迟降低了 3.4 倍。

目前没有租赁市场，没有实例类型，也没有销售 Jalapeno 的计划。当被问及 OpenAI 是否会向其他人提供该芯片时，Ho 表示公司“正努力满足自身需求”。

OpenAI 有预算和场地空间，但目前受限于数据中心电力，而不是预算或场地空间，这使得每兆瓦的 token 数成为关键指标。

推理在 ChatGPT 和 API 上持续运行，因此在 OpenAI 运营的规模下，每个 token 节省的瓦特数会迅速累积。该芯片额定功率为 700 瓦，但在测试的工作负载中保持在 550 瓦或以下。

该芯片符合 OpenAI 与 Broadcom 在 2025 年 10 月达成的协议，即到 2029 年部署 10 吉瓦的 OpenAI 设计加速器。 Cryptopolitan 据报道，这是在伙伴关系最初勾勒出来时

OpenAI 会 exclusively 使用自己的芯片吗？

在 Hot Chips 会议上，Ho 表示 OpenAI 将以 128 个芯片为一组进行部署，一个完整的 pod 运行 2,048 个 ASIC。128 个芯片的部署可提供 1.7 exaflops 的 4 位计算能力和 27.5 TB 的 HBM4，每个封装的内存带宽为每秒 15.4 TB。

OpenAI 表示，它使用自己的模型来加速 Jalapeno 的工作，从设计到流片仅用了九个月。Ho 补充说，第二代版本“已进入开发的深水区”，第三代也在进行中。

然而，即使有基准测试声明，OpenAI 也不会替换其 GPU 舰队。Ho 将 Jalapeño 描述为计算策略的一部分，该策略仍然依赖于 Nvidia 和 Cerebras 的“非常好”的合作伙伴。据报道，该芯片将在 2026 年底以小批量部署，然后在 2027 年逐步扩大。

值得注意的是，所有数字都来自 OpenAI； SemiAnalysis 亲自验证 了 InferenceX 的运行，但没有运行完整的套件，也没有看到 AgentX 的结果。