NVIDIA s'attaque au territoire d'Intel et d'AMD

Le 31 mai, NVIDIA a annoncé le lancement de la production en série de son processeur Vera, positionnant cette puce à 88 cœurs comme le premier processeur du secteur des centres de données conçu spécifiquement pour les charges de travail des agents d'IA. Selon le communiqué de presse de l'entreprise, Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance et CoreWeave figurent parmi les premiers utilisateurs prévoyant des déploiements.

Cette puce représente l'offensive la plus audacieuse de NVIDIA à ce jour, au-delà des GPU, sur le marché des CPU dominé depuis des décennies par Intel et AMD. Alors que Grace, la précédente puce serveur de NVIDIA basée sur ARM, s'est vendue à environ 2,5 millions d'exemplaires à ce jour, Vera introduit une architecture de cœur entièrement personnalisée appelée Olympus, au lieu d'utiliser une architecture de cœur ARM standard, selon Tom's Hardware.

Pourquoi les charges de travail des agents d'IAdefila demande en CPU dans les centres de données

L'économie des centres de données dédiés à l'intelligence artificielle a évolué. À mesure que les modèles passent de la simple réponse à des questions à l'exécution de code, au lancement de programmes et à la coordination de tâches complexes, le processeur devient un élément crucial. Jensen Huang, PDG de NVIDIA, a décrit sans ambages ce potentiel : « Les agents d'IA seront les plus gros consommateurs de puissance de calcul… Vera est le premier processeur conçu pour cet avenir, capable d'exécuter une IA multi-agents à très grande échelle avec des performances, une efficacité et une programmabilité exceptionnelles. »

Les spécifications de Vera illustrent son potentiel. Elle intègre 88 cœurs Olympus, la technologie de multithreading spatial d'Olympus et un système de mémoire LPDDR5X, offrant une bande passante jusqu'à 1,2 To/s pour une consommation mémoire inférieure à 30 watts. Selon le fabricant, Vera peut exécuter des tâches 1,8 fois plus vite que les processeurs x86 lors de l'exécution d'applications d'IA agentielle telles que la compilation de code, l'exécution de Python et de Java, et la manipulation de bases de données.

indépendantsdent l'aide de benchmarks sélectionnés par NVIDIA, ont démontré que Vera compile un noyau Linux en moins de 20 secondes (sur une configuration à socket unique), offrant ainsi un gain de performance de 10 % par rapport à l'EPYC 9575F d'AMD cadencé à 5 GHz, comme l'affirme le blog de NVIDIA. Le fondateur de Phoronix, Michael Larabel, a déclaré que Vera « se révèle extrêmement performant et compétitif face aux processeurs Intel/AMD x86_64, une performance que je n'ai jamais vue sur aucun autre processeur ARM ou non-x86_64. »

Cependant, il convient de préciser que les tests de performance mentionnés ci-dessus ont été sélectionnés et réalisés par NVIDIA elle-même. Aucun testdent n'a été mené à ce jour.

Adoption précoce par le marché de la part des laboratoires d'IA, des hyperscalers et des acteurs du secteur des entreprises

Parmi les clients de Vera figurent de recherche en IA , des géants du cloud et des acteurs de l'infrastructure financière. Selon Lynn Martin, présidente du NYSEdent la bourse, qui traite plus de 1 100 milliards de messages par jour, prévoit d'utiliser Vera en collaboration avec Redpanda et Hewlett Packard Enterprise afin d'accroître sa capacité et de réduire sa latence.

Selon James Bradbury, responsable du calcul chez Anthropic, l'entreprise évalue Vera pour les charges de travail multi-agents gourmandes en ressources CPU. « L'augmentation de la puissance de calcul est un facteur d'accélération important pour le développement des modèles », a déclaré Bradbury. « Nous sommes ravis de voir Vera s'imposer comme un élément prometteur de l'écosystème pour la résolution des problèmes liés aux charges de travail multi-agents. »

Oracle Cloud Infrastructure prévoit de devenir le premier hyperscaler à utiliser Vera, le vice-dent exécutif d'OCI, Mahesh Thiagarajan, la qualifiant de « prochaine frontière du supercalcul IA hyperscale ».

Du côté des fabricants de matériel, Dell Technologies, HPE, Lenovo et Supermicro proposeront Vera en configurations de serveurs avec processeur autonome. NVIDIA a décrit cette offre comme « la première option de processeur standard autre que x86 » proposée par les principaux constructeurs. Des fabricants taïwanais, tels qu'ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology ettron, développent également des systèmes.

Intégration plus large à l'ensemble de l'infrastructure d'IA de NVIDIA

Vera s'intègre parfaitement à la vision d'un écosystème d'IA complet de NVIDIA. Vera sert de processeur hôte à la plateforme Vera Rubin, associée aux GPU Rubin via une interface NVLink-C2C de deuxième génération offrant une bande passante de 1,8 To/s. De plus, Vera fait partie de la plateforme BlueField-4 STX pour la mise en réseau et le stockage. Selon Dealroom, Ian Buck, cadre chez NVIDIA, a livré les premières unités Vera à des clients tels qu'Anthropic à San Francisco et SpaceXAI à Palo Alto.

La chaîne d'approvisionnement en mémoire a réagi immédiatement. DIGITIMES indique que la décision de NVIDIA de commercialiser Vera comme une puce distincte crée une demande en DRAM basse consommation, accentuant ainsi la pression sur la chaîne d'approvisionnement déjà tendue des puces mémoire.

Que faut-il surveiller lors du déploiement de Vera ?

Les systèmes Vera seront livrés aux partenaires et aux fournisseurs de cloud au troisième trimestre de cette année. Cependant, il convient d'examiner si les résultats de testsdent menés sur un large éventail d'applications courantes confirment les performances annoncées par NVIDIA et si la puce Olympus personnalisée peut rivaliser avec les logiciels x86 en matière de compatibilité applicative. Pour l'instant, une chose est claire : NVIDIA ne se contente plus de posséder l'accélérateur. L'entreprise vise l'ensemble de la pile technologique des centres de données d'IA.