NVIDIA will Intel und AMD Marktanteile abnehmen

Am 31. Mai gab NVIDIA die Serienproduktion seiner Vera-CPU bekannt und positionierte den 88-Kern-Chip als ersten Prozessor der Rechenzentrumsbranche, der speziell für KI-Agenten-Workloads entwickelt wurde. Laut Pressemitteilung des Unternehmens gehören Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance und CoreWeave zu den ersten Anwendern, die den Einsatz planen.

Der Chip markiert NVIDIAs bisher aggressivsten Vorstoß über GPUs hinaus in den CPU-Markt, der seit Jahrzehnten von Intel und AMD dominiert wird. Während Grace, NVIDIAs vorheriger ARM-basierter Serverchip, bisher rund 2,5 Millionen Einheiten ausgeliefert hat, setzt Vera laut Tom's Hardware auf eine vollständig eigens entwickelte Kernarchitektur namens Olympus anstatt auf eine lizenzierte Standard-ARM-Kernarchitektur zurückzugreifen.

Warum KI-Agenten-Workloads den CPU-Bedarf in Rechenzentren neudefi

Die Wirtschaftlichkeit von Rechenzentren für künstliche Intelligenz hat sich verändert. Da Modelle sich von der Beantwortung von Fragen hin zur Ausführung von Code, dem Aufruf von Programmen und der Koordination komplexer Aufgaben entwickeln, wird die CPU zu einem Schlüsselfaktor. Jensen Huang, CEO von NVIDIA, beschrieb das Potenzial direkt: „KI-Agenten werden die größten Nutzer von Rechenleistung sein… Vera ist die erste CPU, die für diese Zukunft entwickelt wurde und für den Betrieb von agentenbasierter KI im Hyperscale-Bereich mit außergewöhnlicher Leistung, Effizienz und Programmierbarkeit ausgelegt ist.“

Die Spezifikationen von Vera verdeutlichen ihr Potenzial. Sie verfügt über 88 Olympus-Kerne sowie die Spatial-Multithreading-Technologie des Unternehmens, ergänzt durch ein LPDDR5X-Speichersystem. Dadurch erreicht sie eine Bandbreite von bis zu 1,2 TB pro Sekunde bei einem Stromverbrauch von unter 30 Watt. Laut Herstellerangaben kann Vera Aufgaben bei der Ausführung von Anwendungen mit agentenbasierter KI, wie z. B. Codekompilierung, Python- und Java-Ausführung sowie Datenbankmanipulation, 1,8-mal schneller als x86-Prozessoren ausführen.

Unabhängigedent NVIDIA ausgewählten Benchmarks zeigten, dass Vera einen Linux-Kernel innerhalb von 20 Sekunden kompiliert (in einer Einzelsocket-Konfiguration) und damit eine um 10 % höhere Leistung als AMDs EPYC 9575F mit 5,0 GHz Taktfrequenz erzielt, wie im NVIDIA-Blog angegeben. Michael Larabel, Gründer von Phoronix, erklärte , Vera liefere „eine enorme Leistung und ist mit Intel/AMD x86_64-CPUs konkurrenzfähig, wie ich es bei keinem anderen ARM- oder Nicht-x86_64-Prozessor je gesehen habe.“

Allerdings ist hierbei eine Einschränkung zu beachten, da die oben genannten Benchmarks von NVIDIA selbst ausgewählt und durchgeführt wurden. Bislang wurden keinedent Tests durchgeführt.

Frühe Markteinführung durch KI-Labore, Hyperscaler und Unternehmenssoftware-Anbieter

Zu Veras Kunden zählen KI- Forschungseinrichtungen, Hyperscaler und Finanzinfrastrukturunternehmen. Lautdent Martin, Präsidentin der NYSE, plant die Börse, die täglich über 1,1 Billionen Nachrichten verarbeitet, Vera zusammen mit Redpanda und Hewlett Packard Enterprise einzusetzen, um die Kapazität zu erhöhen und die Latenz zu reduzieren.

Laut James Bradbury, Leiter der Rechenabteilung bei Anthropic, prüft das Unternehmen Vera hinsichtlich rechenintensiver, agentenbasierter Workloads. „Die Skalierung der Rechenleistung ist ein wichtiger Beschleuniger für das Wachstum von Modellen“, so Bradbury. „Wir freuen uns, dass sich Vera als vielversprechender Bestandteil des Ökosystems bei der Lösung agentenbasierter Workloads etabliert.“

Oracle Cloud Infrastructure plant, als erster Hyperscaler Vera einzusetzen. OCI-Vizepräsidentdent Thiagarajan bezeichnet es als „die nächste Grenze im Bereich des hyperskalierbaren KI-Supercomputings“.

Auf der Hardware-Fertigungsseite werden Dell Technologies, HPE, Lenovo und Supermicro Vera als eigenständige CPU-Serverkonfigurationen anbieten. NVIDIA bezeichnete dies als „die erste Standard-CPU-Option jenseits von x86“ von großen OEMs. Auch taiwanesische Hersteller wie ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology undtronentwickeln entsprechende Systeme.

Breitere Integration in die KI-Infrastruktur von NVIDIA

Vera fügt sich nahtlos in NVIDIAs Vision eines umfassenden KI-Ökosystems ein. Vera fungiert als CPU-Host der Vera Rubin Plattform, die mit Rubin GPUs über NVLink-C2C der zweiten Generation mit einer Bandbreite von 1,8 TB/s zusammenarbeitet. Darüber hinaus ist Vera hinsichtlich Netzwerk und Speicher Teil der BlueField-4 STX Plattform. Laut Dealroomlieferte Ian Buck, ein NVIDIA-Manager, die ersten Vera-Einheiten an Kunden wie Anthropic in San Francisco und SpaceXAI in Palo Alto aus.

Die Lieferkette für Speicherchips hat umgehend reagiert. Laut DIGITIMES führt NVIDIAs Entscheidung, Vera als separaten Chip zu vermarkten, zu einer erhöhten Nachfrage nach stromsparendem DRAM und belastet damit die ohnehin schon angespannte Lieferkette für Speicherchips zusätzlich.

Worauf Sie achten sollten, wenn Vera in die Einführungsphase eintritt

Vera-Systeme werden im dritten Quartal dieses Jahres an Partner und Cloud-Anbieter ausgeliefert. Es gilt jedoch zu klären, obdent Benchmarks mit verschiedenen Standardanwendungen die Leistungsangaben von NVIDIA bestätigen und ob der kundenspezifische Olympus-Chip hinsichtlich Anwendungskompatibilität mit x86-Software mithalten kann. Eines ist jedoch bereits klar: NVIDIA gibt sich nicht mehr mit dem alleinigen Besitz des Beschleunigers zufrieden. Das Unternehmen strebt die gesamte KI-Rechenzentrumsarchitektur an.