Nvidia 与 Llama 3.1 助力企业构建超级计算机

跨国科技巨头英伟达宣布推出一项新服务，帮助企业及国家利用 Meta 最新的大语言模型 Llama 3.1 构建定制化和专用超级计算机。 

英伟达推出了两项面向企业和国家的新服务：一项在 Nvidia AI Foundry 内发布，另一项为 NVIDIA NIM 中的推理微服务。这两项服务均依托 Meta 最新的开源大语言模型库 Llama 3.1，可打造生成式 AI 超级计算机。 

Nvidia AI Foundry 将帮助企业与国家打造针对特定行业需求定制的超大规模语言模型。这一目标可通过利用 Llama 3.1 以及英伟达的软件、硬件和人才来实现。企业与国家可选择使用专有数据，或基于 Llama 3.1 与英伟达 Nemotron 奖励模型生成的合成数据来训练这些超模型。

延伸阅读： 特斯拉将在 2025 开始使用人形机器人，埃隆·马斯克表示

今日发布的 Llama 3.1 拥有 4050 亿参数，旨在与 ChatGPT 和 Gemini 等闭源 AI 模型展开竞争。Meta 正通过提供与模型协同工作的额外组件，持续优化 Llama。 Meta 与英伟达 合作将 Llama 3.1 集成至英伟达的服务中，确保方案自发布首日即可投入使用。英伟达首席执行官黄仁勋表示：

“……NVIDIA AI Foundry已全面集成Llama 3.1，并准备好帮助企业构建和部署定制的Llama超级模型。”  

Llama 3.1 的生成式 AI 模型在超过 16,000 块 Nvidia H100 Tensor Core GPU 上训练而成。此外，这些模型针对 Nvidia 的加速计算和软件进行了优化，可实现在数据中心、云端以及由 GPU 驱动的个人电脑上的部署。

延伸阅读： Meta 推出最大版本的 Llama 3 AI 模型

目前，全球许多公司均可使用 Llama 的 NIM 微服务。埃森哲是首家为沙特阿美、AT&T 和优步构建定制 Llama 超模型的合作伙伴。这些企业将率先通过 Llama 3.1 访问 NIM 微服务。成功创建定制模型后，企业可选择 Nvidia 的微服务、OPs 平台及云平台来运行这些模型。 

上周，Mistral AI 发布了一款新的 12B 模型，名为 Mistral NeMo 并与 Nvidia 合作推出。该模型作为 Nvidia NIM 推理微服务提供。关于新 GPU 硬件，一位爆料人士声称，一家硬件技术公司将仅面向中国市场推出一款全新的 Gen RTX 5090D。这款新 GPU 将是 RTX 4090D 的继任者。