Nvidia défie Intel et AMD sur le marché des CPU de 200 milliards de dollars

Nvidia s'est engagée dans l'entrée sur le marché des CPU pour centres de données, un domaine précédemment dominé par des entreprises comme Intel et AMD et actuellement évalué à 200 milliards de dollars. L'entreprise a déjà acquis son premier client sous la forme de Perplexity, qui sera parmi les premières entreprises à adopter le nouveau processeur de Nvidia, Vera. Il s'agit d'un mouvement majeur visant à étendre les capacités des opérations de Nvidia au-delà de ses GPU renommés.

Les enjeux sont principalement économiques. La revendication de Nvidia, publiée dans un article de blog d'entreprise d'Ian Buck le 7 juillet, concerne le fait que le processeur qui gère le fonctionnement d'un modèle IA – exécutant diverses applications, exécutant du code, transférant des données, etc. – est actuellement un goulot d'étranglement qui laisse les GPU coûteux inactifs tandis que leur puissance de traitement est sous-utilisée. De plus, il a été mentionné par Reuters que

Perplexity va implémenter Vera comme l'un des premiers projets de la nouvelle plateforme CPU de Nvidia. Le VP Nate Kupp a déclaré que le processeur s'est avéré être « un ajustement parfait » pour les besoins de l'entreprise et a rendu ses fonctions 1,5 fois plus rapides que celles des CPU traditionnels lors de tests internes. Bien que Reuters ait rapporté la décision d'adopter Vera et les benchmarks mentionnés ci-dessus, il convient de noter que les tests ont été effectués par Perplexity et Nvidia, et non par des autorités indépendantes.

Perplexity a exécuté l'un de ses jobs d'agent quotidiens sur la puce, clonant un dépôt de code et exécutant sa suite de tests dans des bac à sable isolés. Selon Nvidia, Vera a terminé ce travail environ 1,5 fois plus rapidement qu'un processeur serveur x86 comparable et a démarré des bac à sable parallèles jusqu'à 1,9 fois plus rapidement. L'entreprise de recherche IA prévoit désormais d'intégrer Vera dans son prochain système de production.

Pourquoi le CPU est devenu le goulot d'étranglement

La raison pour laquelle le CPU est devenu le goulot d'étranglement dans la technologie AI remonte au mode de fonctionnement des agents IA. Contrairement aux chatbots traditionnels qui se concentrent uniquement sur la génération de réponses, les agents IA sont responsables de l'exécution d'outils, de l'exécution de code, de la réalisation de requêtes, de la récupération de documents et de l'évaluation des résultats avant de faire tout autre mouvement. Le processus est séquentiel, et par conséquent, la performance d'un CPU à thread unique devient essentielle pour l'exécution opportune des réponses.

L'industrie de l'IA prête une attention croissante à ce changement. Avec la transition de l'intelligence artificielle de la production de texte à l'exécution de fonctions multiples complexes par elle-même, il est devenu nécessaire pour les CPU de faire l'orchestration, la manipulation et le transfert d'informations avant que le GPU ne fasse aucune inférence.

Selon Nvidia, afin de tirer un maximum parti des GPU, des CPU beaucoup plus rapides seraient nécessaires dans un centre de données où des milliers d'agents d'intelligence artificielle doivent travailler simultanément. De même, les processeurs traditionnels ont été développés bien avant l'apparition de la technologie impliquant des agents IA toujours actifs, créant une opportunité pour des CPU optimisés spécifiquement pour ces charges de travail.

Un coup direct à Intel et AMD

Nvidia ne cache pas non plus ses intentions. Lors de Computex le 2 juin à Taipei, Jensen Huang, le PDG de l'entreprise, a indiqué que la création d'une division CPU pour ordinateurs et serveurs fait partie de leurs plans pour « réinventer » le marché des CPU. De nombreux experts du domaine conviennent que cette initiative place Nvidia dans la catégorie des concurrents d'Intel et d'AMD. Selon Reuters, Nvidia devrait générer 20 milliards de dollars avec ses CPU Vera au cours de l'exercice fiscal en cours. Dans le même temps, l'entreprise affirme que le potentiel total des CPU vaut 200 milliards de dollars.

Cet espoir de position concurrentielle survient alors que Nvidia souhaite se trouver non seulement dans le domaine des accélérateurs IA, mais aussi en dehors de ce domaine limité. Le marché mondial des CPU pour serveurs a historiquement été servi par Intel et AMD avec l'aide des processeurs x86. Cependant, les processeurs basés sur Arm ont trouvé leur place sur le marché du cloud computing hyperscale, où les entreprises réalisent des optimisations pour des charges de travail spécifiques au lieu d'utiliser des processeurs à usage général.

Cette concurrence survient alors que les titulaires du marché sont en difficulté. L'action Nvidia a clôturé à 196,93 $ le 7 juillet, en hausse de 0,7 %, selon les données de Yahoo Finance. AMD et Intel ont reculé de 6,5 % et 9,7 %, respectivement. Mais les analystes ont généralement attribué ces baisses à une vente plus large de semiconducteurs liée aux nouvelles concernant Samsung, plutôt qu'à la seule Vera de Nvidia.

Nvidia dit qu'elle n'a pas fini. Son prochain cœur de serveur, Rigel, basé sur Arm v9.2 et prévu pour la future plateforme Rosa, est destiné à augmenter davantage la performance par cœur. Que Vera parvienne ou non à révolutionner le paysage des CPU pour serveurs sera déterminé non seulement par les mesures de performance propres à Nvidia, mais aussi par la réception réelle des clients et la vérification tierce de la performance de Vera à travers divers tests pilotes.