Nvidia, ein multinationales Unternehmen und Technologieunternehmen, hat die Veröffentlichung eines neuen Dienstes angekündigt, der Unternehmen und Ländern dabei hilft, maßgeschneiderte und spezialisierte Supercomputer mit Metas neuestem LLM, Llama 3.1, zu bauen.
Nvidia hat zwei neue Dienste veröffentlicht, die sich an Unternehmen und Länder richten. Der Technologieriese hat einen Dienst innerhalb der Nvidia AI Foundry und Inferenz-Microservices innerhalb der NVIDIA NIM veröffentlicht. Beide Dienste nutzen die neueste Open-Source-LLM-Bibliothek von Meta, Llama 3.1, und können generative KI-Supercomputer erstellen.
Nvidia AI Foundry wird Unternehmen und Ländern dabei helfen, Super-LLM-Modelle zu erstellen, die auf spezifische Branchenanforderungen und -bedürfnisse zugeschnitten sind. Dies ist durch den Einsatz von Llama 3.1 und der Software, Hardware und dem Talent von Nvidia möglich. Unternehmen und Länder haben die Möglichkeit, diese Supermodels mithilfe proprietärer oder synthetischer Daten zu trainieren, die aus Llama 3.1 und dem Nvidia Nemo- tron Belohnungsmodell generiert werden.
Lesen Sie auch: Tesla wird im Jahr 2025 mit dem Einsatz humanoider Bots beginnen, sagt Elon Musk
Llama 3.1, das heute veröffentlicht wurde, verfügt über 405 Milliarden Parameter und ist in der Lage, mit Closed-Source-KI-Modellen wie ChatGPT und Gemini zu konkurrieren. Meta verbessert Llama kontinuierlich, indem es zusätzliche Komponenten bereitstellt, die mit dem Modell funktionieren. Meta und Nvidia haben sich zusammengetan, um Llama 3.1 in die Dienste von Nvidia zu integrieren und die Lösung vom ersten Tag an verfügbar zu machen. Der CEO von Nvidia, Jensen Huang, sagte:
„…NVIDIA AI Foundry hat Llama 3.1 durchgehend integriert und ist bereit, Unternehmen bei der Entwicklung und Bereitstellung benutzerdefinierter Llama-Supermodelle zu unterstützen.“
Die generativen KI-Modelle von Llama 3.1 werden auf mehr als 16.000 Nvidia H100 Tensor Core GPUs trainiert. Darüber hinaus sind sie für das beschleunigte Computing und die Software von Nvidia optimiert, was den Einsatz in Rechenzentren, Clouds und auf GPU-basierten Personalcomputern ermöglicht.
Lesen Sie auch: Meta stellt die größte Version des KI-Modells Llama 3 vor
Derzeit haben viele Unternehmen weltweit Zugriff auf NIM-Microservices für Llama. Accenture ist der erste Kunde, der maßgeschneiderte Llama-Supermodels für Aramco, AT&T und Uber baut. Diese Unternehmen werden die ersten sein, die mit Llama 3.1 auf NIM-Microservices zugreifen. Nach erfolgreicher Erstellung benutzerdefinierter Modelle kann ein Unternehmen die Microservices von Nvidia, eine OPs-Plattform und eine Cloud-Plattform zum Ausführen der Modelle auswählen.
Letzte Woche hat Mistral AI in Zusammenarbeit mit Nvidia Mistral NeMo Das Modell ist als Nvidia NIM-Inferenz-Microservice verfügbar. In Bezug auf neue GPU-Hardware behauptete ein Leaker, dass das Hardware-Technologieunternehmen eine neue Generation RTX 5090D nur für den chinesischen Markt herausbringen werde. Die neue GPU wird der Nachfolger der RTX 4090D sein.
