Meta 推出内部 AI 芯片，随着减少了对 Nvidia 依赖的竞争加剧

随着大型科技公司减少了对 Nvidia 依赖的竞争变得更加激烈，Meta 正在更大力度地进入定制 AI 芯片领域。

该公司表示，它于 2023 年启动了 Meta 训练和推理加速器（MTIA），现在正准备在未来两年内推出四代新芯片。

据 Meta 称，这些芯片 allegedly 是为 Meta 产品中的排名、推荐和生成式 AI 任务而构建的。

该公司还表示，它并不押注于单一供应商或单一硬件。Meta 计划继续从几家行业参与者那里购买硅片，同时保持 MTIA 在其自身 AI 基础设施计划的核心地位。

用该公司的话说，随着 AI 工作负载的增长和变化，它采取了一种“组合方法”。这意味着将外部芯片与内部硅片混合使用，而不是将整个堆栈交给单一供应商。

Meta 以更快的时间表推出四代 MTIA 芯片

Meta 表示，它已经使用了数十万个 MTIA 芯片，用于与其应用中有机内容和广告相关的推理工作。

这些芯片是为该公司自己的任务构建的，而不是用于通用用途。这很重要，因为 Meta 表示该硬件是定制全栈解决方案的一部分，这使其为其每天运行的工作提供了更优化的系统。

该公司表示，这种设置为其特定用例提供了更好的计算效率，并与更通用的芯片相比降低了成本。

下一阶段是更大规模的推广。Meta 表示正在开发 MTIA 300、400、450 和 500，每个版本都将带来计算、内存带宽和效率的提升。MTIA 300 已进入生产阶段，将负责排名和推荐训练。

MTIA 400、450 和 500 可以运行所有工作负载，但 Meta 表示，这些芯片在近期内以及到 2027 年之前，将主要用于生成式 AI 推理生产。

该公司还表示，该硅片是模块化的，这使得新芯片可以滑入现有的机架系统基础设施中。这缩短了设计和部署之间的等待时间。

在发布速度方面，Meta 表示，行业通常每 1 到 2 年发布一款新的 AI 芯片，但现在它有能力每 6 个月或更短的时间内发布自己的芯片，通过重用模块化设计。

Meta 围绕推理和开放标准构建其 AI 芯片战略

该公司表示，其 MTIA 战略基于三个部分：快速迭代、以推理为中心的设计，以及通过通用标准实现的易于采用。

在第一点方面，Meta 表示 较短的发布周期有助于它随着 AI 技术的变化更快地调整，引入更新的硬件技术，并降低开发和新芯片版本部署的成本。

在第二点方面，Meta 将其计划与通常的市场模式划清了界限。该公司表示，大多数主流芯片首先是为大型生成式 AI 预训练任务构建的，然后用于其他工作，通常成本水平更差。

Meta 表示它正在做相反的事情。MTIA 450 和 500 首先针对生成式 AI 推理进行调优，然后用于排名、推荐训练和推理，以及在需要时用于生成式 AI 训练。

该公司还表示，MTIA 从一开始就建立在标准工具和系统之上，包括 PyTorch、vLLM、Triton 和开放计算项目（OCP）。其系统和机架设计也遵循 OCP 标准，用于数据中心。

Meta 补充说，没有单一的芯片可以满足它的所有需求，这就是为什么它计划为不同的工作负载部署不同的芯片，同时推动它所谓的“每个人的个人超级智能”。