Nvidia und Llama 3.1 helfen Unternehmen beim Aufbau von Supercomputern

Nvidia, ein multinationaler Konzern und Technologieunternehmen, hat die Einführung eines neuen Dienstes angekündigt, der Unternehmen und Ländern dabei hilft, maßgeschneiderte und spezialisierte Supercomputer mit Metas neuestem LLM, Llama 3.1, zu bauen. 

Nvidia hat zwei neue Dienste veröffentlicht, die sich an Unternehmen und Länder richten. Der Technologieriese hat einen Dienst innerhalb von Nvidia AI Foundry und Inference-Mikrodienste innerhalb von NVIDIA NIM veröffentlicht. Beide Dienste nutzen Metas neueste Open-Source-LLM-Bibliothek Llama 3.1 und können generative KI-Supercomputer erstellen. 

Nvidia AI Foundry wird Unternehmen und Ländern dabei helfen, Super-LLM-Modelle zu erstellen, die für spezifische Branchenbedürfnisse und -anforderungen maßgeschneidert sind. Dies ist durch den Einsatz von Llama 3.1 sowie Nvidias Software, Hardware und Talenten möglich. Unternehmen und Länder haben die Option, diese Supermodelle mit proprietären Daten oder synthetischen Daten, die aus Llama 3.1 und dem Nvidia Nemotron-Belohnungsmodell generiert wurden, zu trainieren.

Auch lesen: Tesla beginnt mit der Nutzung humanoider Roboter in 2025, sagt Elon Musk

Llama 3.1, das heute veröffentlicht wurde, verfügt über 405 Milliarden Parameter und ist darauf ausgelegt, mit geschlossenen KI-Modellen wie ChatGPT und Gemini zu konkurrieren. Meta verbessert Llama kontinuierlich, indem es zusätzliche Komponenten bereitstellt, die mit dem Modell funktionieren. Meta und Nvidia haben sich zusammengeschlossen, um Llama 3.1 in Nvidias Dienste zu integrieren, wodurch die Lösung ab dem ersten Tag verfügbar ist. Der CEO von Nvidia, Jensen Huang, sagte:

„…NVIDIA AI Foundry hat Llama 3.1 durchgängig integriert und ist bereit, Unternehmen dabei zu helfen, benutzerdefinierte Llama-Supermodelle zu erstellen und bereitzustellen.“  

Die generativen KI-Modelle von Llama 3.1 wurden mit mehr als 16.000 Nvidia H100 Tensor Core GPUs trainiert. Darüber hinaus sind sie für Nvidias beschleunigtes Computing und Software optimiert, was die Bereitstellung in Rechenzentren, Clouds und auf mit GPUs ausgestatteten PCs ermöglicht.

Auch lesen: Meta stellt größte Version des Llama 3-KI-Modells vor

Derzeit haben viele Unternehmen weltweit Zugang zu NIM-Mikrodiensten für Llama. Accenture ist der erste Kunde, der benutzerdefinierte Llama-Supermodelle für Aramco, AT&T und Uber erstellt. Diese Konzerne werden als Erste NIM-Mikrodienste mit Llama 3.1 nutzen. Nach der erfolgreichen Erstellung benutzerdefinierter Modelle kann ein Unternehmen Nvidias Mikrodienste, eine OPs-Plattform und eine Cloud-Plattform zur Ausführung der Modelle wählen. 

Letzte Woche hat Mistral AI ein neues 12B-Modell namens Mistral NeMo in Zusammenarbeit mit Nvidia veröffentlicht. Das Modell ist als Nvidia NIM-Inferenzmikrodienst verfügbar. In Bezug auf neue GPU-Hardware behauptete ein Leaker, dass das Hardware-Technologieunternehmen eine neue Gen RTX 5090D nur für den chinesischen Markt veröffentlichen wird. Die neue GPU wird der Nachfolger der RTX 4090D sein.