Broadcom dévoile la puce Tomahawk Ultra pour concurrencer Nvidia

La division semi-conducteurs de Broadcom a lancé mardi un nouveau processeur réseau, conçu pour accélérer les charges de travail d'intelligence artificielle qui exigent une coordination étroite entre des centaines d'unités de calcul.

Cette annonce marque une nouvelle offensive dans la lutte de Broadcom contre Nvidia, leader des puces d'IA. Ce dernier dispositif, baptisé Tomahawk Ultra, sert de contrôleur de trafic, acheminant d'énormes volumes de données entre des dizaines, voire des centaines, de puces de silicium logées dans une seule baie de serveur.

Tomahawk Ultra défie directement Nvidia

L'entraînement et l'inférence en intelligence artificielle reposent sur le calcul à grande échelle, où les puces sont regroupées en clusters pour partager des données à des vitesses fulgurantes. Jusqu'à présent, le commutateur NVLink de Nvidia dominait ce domaine, mais Broadcom affirme que son nouveau venu peut connecter jusqu'à quatre fois plus de processeurs sur un seul réseau.

Au lieu de s'appuyer sur une interconnexion propriétaire, l'Ultra exploite une version optimisée d'Ethernet, renforcée pour une faible latence et un débit élevé. Ram Velagaseniordent et directeur général du groupe Core Switching de Broadcom, a déclaré aux journalistes que la puce peut gérer les communications entre un nombre d'unités bien supérieur à celui du produit concurrent de Nvidia, tout en utilisant un protocole largement répandu.

« Le Tomahawk Ultra témoigne de l'innovation, fruit d'un effort pluriannuel de centaines d'ingénieurs qui ont repensé chaque aspect du commutateur Ethernet. »

Velaga.

« Cela souligne l’engagement de Broadcom à investir dans le développement de l’Ethernet pour les réseaux haute performance et l’expansion de l’IA », a ajouté Velaga.

Broadcom fournit déjà des services de fabrication de puces à des clients comme Google, aidant ainsi le géant de la recherche à assembler ses propres accélérateurs d'IA comme alternative aux GPU Nvidia.

Avec la commercialisation désormais assurée du Tomahawk Ultra, la société espère éroder davantage la domination de Nvidia en proposant aux architectes de centres de données un commutateur capable de s'adapter à des clusters plus importants à des vitesses similaires, voire supérieures.

Les ingénieurs de Broadcom ont consacré environ trois ans au développement

Les processeurs seront fabriqués par Taiwan Semiconductor Manufacturing Co. (TSMC) selon sa technologie de gravure en cinq nanomètres, le même procédé de pointe utilisé pour de nombreuses puces parmi les plus rapides au monde. Velaga a précisé que les équipes d'ingénierie de Broadcom ont consacré environ trois ans au développement, ciblant initialement le marché du calcul haute performance avant de se tourner vers le secteur en plein essor de l'intelligence artificielle générative.

« Les charges de travail d'IA et de HPC convergent vers des clusters d'accélérateurs étroitement couplés qui exigent une latence de classe supercalculateur, essentielle pour l'inférence, la fiabilité et l'intelligence au sein du réseau à partir de la structure elle-même », a déclaré Kunjan Sobhani, analyste principal des semi-conducteurs chez Bloomberg Intelligence.

« Démontrer que l’Ethernet à normes ouvertes peut désormais assurer une commutation inférieure à la microseconde, un transport sans perte et des opérations collectives sur puce représente une étape cruciale pour répondre aux exigences d’une architecture d’IA à grande échelle, dont le volume devrait atteindre plusieurs dizaines de milliards d’ici quelques années. »

Sobhani.

Dans les architectures à architecture horizontale traditionnelles, les serveurs sont répartis dans des racks et reliés par des réseaux standard, ce qui engendre une latence accrue. À l'inverse, l'architecture verticale concentre les ressources de calcul dans un espace physique réduit, souvent un seul rack, permettant ainsi des échanges de données en quelques microsecondes. Cette rapidité est essentielle pour l'entraînement de réseaux neuronaux massifs ou l'exécution d'inférences en temps réel.

Face à la croissance exponentielle des modèles d'IA, la course est lancée pour concevoir une infrastructure capable de gérer des exaoctets de paramètres tout en restant économique et économe en énergie. En adoptant Ethernet, une norme ouverte et largement répandue, et en repoussant ses limites de performance, Broadcom espère offrir aux opérateurs de centres de données une solution plus simple pour étendre leurs fermes d'IA sans être prisonniers de l'écosystème d'un seul fournisseur.

Avec la disponibilité de Tomahawk Ultra pour les clients, la course aux moteurs d'IA mondiaux entre dans une nouvelle phase, plus intense, où l'ouverture et l'envergure pourraient s'avérer tout aussi déterminantes que la puissance brute des puces. Broadcom se positionne ainsi comme un acteur incontournable du secteur de l'IA.

l' entreprise était pressentie pour devenir l'une des principales sociétés à détenir une participation et à exploiter les usines d'Intel conjointement avec TSMC, Nvidia et AMD, dans le cadre d'un accord qui aurait été proposé par TSMC.