Nvidia und Llama 3.1 helfen Unternehmen beim Bau von Supercomputern

Nvidia, ein multinationaler Konzern und Technologieunternehmen, hat die Veröffentlichung eines neuen Dienstes angekündigt, der Unternehmen und Ländern dabei hilft, maßgeschneiderte und spezialisierte Supercomputer mit Metas neuestem LLM, Llama 3.1, zu bauen. 

Nvidia hat zwei neue Dienste für Unternehmen und Länder veröffentlicht. Der Technologiekonzern präsentierte einen Dienst innerhalb der Nvidia AI Foundry sowie Inferenz-Mikrodienste innerhalb von NVIDIA NIM. Beide Dienste nutzen die neueste Open-Source-Bibliothek Llama 3.1 von Meta und ermöglichen die Entwicklung generativer KI-Supercomputer. 

Die Nvidia AI Foundry unterstützt Unternehmen und Länder bei der Entwicklung leistungsstarker LLM-Modelle, die auf spezifische Branchenanforderungen zugeschnitten sind. Dies wird durch den Einsatz von Llama 3.1 sowie der Software, Hardware und Expertise von Nvidia ermöglicht. Unternehmen und Länder können diese Modelle wahlweise mit proprietären Daten oder mit synthetischen Daten trainieren, die mithilfe von Llama 3.1 und dem Nvidia Nemotron-Belohnungsmodell generierttron .

Lesen Sie auch: Tesla will laut Elon Musk ab 2025 humanoide Roboter einsetzen.

Llama 3.1, das heute veröffentlicht wurde, verfügt über 405 Milliarden Parameter und ist als Konkurrent proprietärer KI-Modelle wie ChatGPT und Gemini positioniert. Meta verbessert Llama kontinuierlich durch die Bereitstellung zusätzlicher Komponenten, die mit dem Modell zusammenarbeiten. Meta und Nvidia haben eine Partnerschaft geschlossen, um Llama 3.1 in die Nvidia-Dienste zu integrieren und die Lösung somit vom ersten Tag an verfügbar zu machen. Der CEO von Nvidia, Jensen Huang, sagte:

„…NVIDIA AI Foundry hat Llama 3.1 vollständig integriert und ist bereit, Unternehmen beim Erstellen und Bereitstellen von kundenspezifischen Llama-Supermodellen zu unterstützen.“  

Die generativen KI-Modelle von Llama 3.1 werden auf über 16.000 Nvidia H100 Tensor Core GPUs trainiert. Darüber hinaus sind sie für Nvidias beschleunigte Rechenleistung und Software optimiert, was den Einsatz in Rechenzentren, Clouds und auf GPU-gestützten PCs ermöglicht.

Lesen Sie auch: Meta stellt die größte Version des KI-Modells Llama 3 vor

Weltweit haben bereits viele Unternehmen Zugriff auf die NIM-Mikrodienste für Llama. Accenture ist der erste Kunde, der kundenspezifische Llama-Supermodelle für Aramco, AT&T und Uber erstellt hat. Diese Unternehmen werden als erste die NIM-Mikrodienste mit Llama 3.1 nutzen. Nach erfolgreicher Erstellung kundenspezifischer Modelle kann ein Unternehmen die Mikrodienste von Nvidia, eine Operationsplattform und eine Cloud-Plattform für den Betrieb der Modelle auswählen. 

Letzte Woche veröffentlichte Mistral AI in Zusammenarbeit mit Nvidia ein neues 12B-Modell namens Mistral NeMo . Das Modell ist als Nvidia NIM-Inferenz-Mikrodienst verfügbar. Bezüglich neuer GPU-Hardware behauptete ein Leaker, dass das Hardware-Technologieunternehmen eine neue RTX 5090D der nächsten Generation exklusiv für den chinesischen Markt veröffentlichen wird. Die neue GPU soll der Nachfolger der RTX 4090D sein.