OpenAI的巨型AI城市计划依赖于定制芯片的突破

OpenAI正在勾勒出一幅看似由机器建造文明的蓝图，由自己的芯片、自己的基础设施和足以点亮两个纽约市的电力驱动。

该公司的巨型AI城市愿景建立在一个几乎不可能实现的愿景之上：与Broadcom合作设计和生产数十亿个定制芯片，以支持首席执行官Sam Altman所称的未来“计算脊柱”。

山姆告诉《华尔街日报》，满足人们对人工智能服务的需求，至少需要为每位用户提供一枚专用AI芯片，这一令人咋舌的预测将涉及数十亿枚芯片。

AI艾伦研究所负责人Ali Farhadi支持这一规模，他表示，如果AI以承诺的速度取代人类劳动力，“世界将需要像常规芯片一样多的AI芯片。”对于OpenAI来说，这是关于控制；关于成本、关于功耗，以及关于其模型在需求激增时的长期生存能力。

OpenAI联合博通、英伟达和内存巨头打造下一代计算能力

当然，英伟达在AI训练领域仍占据主导地位，拥有约70%的市场份额，这也是为什么OpenAI必须继续使用其GPU进行模型训练的原因。

但OpenAI现在正在拆分流水线：训练在英伟达上进行，推理（向用户提供答案的过程）则转移到博通的定制芯片上。这种双轨设计可以在每一百分点都至关重要的规模上削减开支和功耗。

SemiAnalysis的半导体研究员Jordan Nanos，表示 Broadcom正在帮助OpenAI“重新混合典型的AI芯片配方”。这些芯片不会是通用的。它们专为OpenAI的模型设计，这些模型依赖由三星和SK海力士提供的高带宽内存，这两家公司是该公司最近合作的对象。

这种类型的内存允许处理器之间更快的数据移动，这对于像OpenAI的Pulse这样的系统至关重要，Pulse是一个每天扫描网络以向用户提供简报的AI代理。Pulse消耗的计算能力如此之大，以至于山姆表示它仅限于每月支付200美元Pro版费用的用户。

这种对高带宽内存的依赖直接与OpenAI模型的运作方式有关。早期的神经网络是“稠密”的，为每个查询激活系统的大部分区域。较新的网络使用“稀疏性”，仅激活特定的专家部分。

现代系统不再使用模型的25%来回答问题，而是触发一小部分。这种差异大幅降低了功耗并加快了响应时间。当芯片围绕这种稀疏逻辑构建时，效率飙升，而Broadcom正是使这种硬件成为现实的公司。

OpenAI的吉瓦级AI超级计算机重新定义基础设施

山姆曾表示，OpenAI目前的计算足迹约为2吉瓦，分布在全球各地的数据中心。博通的合作旨在到2030年建成高达10吉瓦的产能，形成所谓的“AI城市”的物理基础，即由服务器、存储和定制互连组成的密集园区，并通过博通的Tomahawk Ultra网络芯片连接在一起。

这只是浪潮的一部分。在过去三周里，OpenAI增加了16吉瓦的新容量协议，与AMD和Nvidia合作，使总水平达到可能需要近1万亿美元投资的程度。

xAI的孟菲斯Colossus今年秋季已达到1.21吉瓦。Meta在路易斯安那州的Hyperion设施已获准使用2.3吉瓦，马克·扎克伯格的目标是5吉瓦。AI能源竞赛已正式全球化。

山姆将这种转型描述为“历史上最大的联合工业项目”，并表示即使这些交易也只是“我们所需进展中的一滴水”。他的目标之一是多样化供应商。

位于德克萨斯州阿比林、由甲骨文建设的Stargate园区将专注于AI训练，主要使用英伟达芯片。AMD硬件将处理推理工作负载，而博通的定制芯片则填补效率差距。

正如Nanos所说，“OpenAI正在放眼未来，并试图确保他们有足够的芯片供应。”