NvidiaとLlama 3.1は、企業がスーパーコンピュータを構築するのを支援する

多国籍企業でありテクノロジー企業のNvidiaは、Metaの最新大規模言語モデル（LLM）であるLlama 3.1を使用して、企業や国がカスタマイズされた専用スーパーコンピュータを構築するのを支援する新しいサービスのリリースを発表した。 

Nvidiaは、企業や国を対象とした2つの新しいサービスをリリースした。テクノロジー大手は、Nvidia AI Foundry内のサービスと、NVIDIA NIM内の推論マイクロサービスを提供した。両方のサービスは、Metaの最新オープンソースLLMライブラリであるLlama 3.1を活用し、生成AIスーパーコンピュータを作成できる。 

Nvidia AI Foundry は、特定の業界の要件やニーズに合わせてカスタマイズされたスーパーLLMモデルを企業や国が作成するのを支援する。これは、Llama 3.1とNvidiaのソフトウェア、ハードウェア、人材を活用することで可能になる。企業や国は、独自のデータ、またはLlama 3.1とNvidia Nemotron報酬モデルから生成された合成データを使用して、これらのスーパーモデルをトレーニングするオプションを持つことができる。

関連記事： イーロン・ムスク氏、テスラが2025で人型ロボットの使用を開始すると発表

本日リリースされたLlama 3.1は4,050億のパラメータを持ち、ChatGPTやGeminiのようなクローズドソースのAIモデルと競合する位置づけにある。Metaは、モデルと連携する追加コンポーネントを提供し続けることで、Llamaの改善を継続している。 MetaとNvidia は、Llama 3.1をNvidiaのサービスに統合し、発売初日からソリューションを利用可能にするために提携した。NvidiaのCEO、ジェンスン・ホアン氏は次のように述べた：

「…NVIDIA AI FoundryにはLlama 3.1が全面統合されており、企業がカスタムLlamaスーパーモデルを構築および展開するのを支援する準備が整っています。」  

Llama 3.1の生成AIモデルは、16,000台以上のNvidia H100 Tensor Core GPUでトレーニングされている。さらに、データセンター、クラウド、GPU搭載のパーソナルコンピュータでの展開を可能にするNvidiaのアクセラレーテッドコンピューティングおよびソフトウェア向けに最適化されている。

関連記事： Meta、Llama 3 AIモデルの最大バージョンを発表

現在、世界中の多くの企業がLlama用のNIMマイクロサービスにアクセスできる。Accentureは、Aramco、AT&T、UberのためにカスタムLlamaスーパーモデルを構築した最初のクライアントである。これらの企業は、Llama 3.1を使用してNIMマイクロサービスにアクセスする最初の企業となる。カスタムモデルの作成に成功した後、企業はNvidiaのマイクロサービス、OPsプラットフォーム、およびクラウドプラットフォームを選択してモデルを実行できる。 

先週、Mistral AIはNvidiaとの共同で、新しい12Bモデル Mistral NeMo をリリースした。このモデルは、Nvidia NIM推論マイクロサービスとして利用可能である。新しいGPUハードウェアについては、あるリーカーが、ハードウェアテクノロジー企業が中国市場専用の新しいGen RTX 5090Dをリリースすると主張した。新しいGPUは、RTX 4090Dの後継機となる予定だ。