Broadcom dévoile la puce Tomahawk Ultra pour rivaliser avec Nvidia

La division puces de Broadcom a lancé un nouveau processeur réseau mardi, conçu pour turbocharger les charges de travail d'intelligence artificielle qui exigent une coordination étroite entre des centaines d'unités de calcul.

Cette annonce marque une nouvelle offensive dans sa rivalité avec le leader des puces IA, Nvidia. Ce dernier dispositif de Broadcom, connu sous le nom de Tomahawk Ultra, sert de contrôleur de trafic, transférant d'énormes volumes de données entre des dizaines, voire des centaines, de puces de silicium logées dans un seul rack de serveur.

Tomahawk Ultra défie directement Nvidia

L'entraînement et l'inférence IA reposent sur le calcul « scale-up », où les puces sont regroupées étroitement pour partager des données à des vitesses fulgurantes. Jusqu'à présent, le commutateur NVLink de Nvidia régnait en maître pour cette tâche, mais Broadcom affirme que son nouveau venu peut relier jusqu'à quatre fois plus de processeurs dans un seul réseau.

Plutôt que de s'appuyer sur une interconnexion propriétaire, l'Ultra utilise une version turbo d'Ethernet, renforcée pour une faible latence et un débit élevé. Ram Velaga, vice-président senior et directeur général du groupe Core Switching de Broadcom, a déclaré aux journalistes que la puce peut gérer les communications entre beaucoup plus d'unités que le produit concurrent de Nvidia, tout en utilisant un protocole largement pris en charge.

« Tomahawk Ultra est le témoignage de l'innovation, impliquant un effort de plusieurs années par des centaines d'ingénieurs qui ont réimaginé chaque aspect du commutateur Ethernet. »

Velaga.

« Cela met en lumière l'engagement de Broadcom à investir dans l'avancement d'Ethernet pour le réseau haute performance et le scale-up IA », a ajouté Velaga.

Broadcom fournit déjà des services de fabrication de puces à des clients comme Google, aidant le géant de la recherche à assembler ses propres accélérateurs IA comme alternative aux GPU Nvidia.

Avec Tomahawk Ultra désormais expédié, l'entreprise espère éroder davantage la domination de Nvidia en offrant aux architectes de centres de données un commutateur qui évolue vers des clusters plus grands à des vitesses similaires, ou meilleures.

Les ingénieurs de Broadcom ont passé environ trois ans au développement

Les processeurs seront fabriqués par Taiwan Semiconductor Manufacturing Co. en utilisant son nœud de cinq nanomètres, le même processus avancé derrière beaucoup des puces les plus rapides au monde. Velaga a noté que les équipes d'ingénierie de Broadcom ont passé environ trois ans au développement, ciblant initialement les marchés du calcul haute performance avant de pivoter vers le secteur en plein essor de l'IA générative.

« Les charges de travail IA et HPC convergent vers des clusters d'accélérateurs étroitement couplés qui exigent une latence de classe supercalculateur, cruciale pour l'inférence, la fiabilité et l'intelligence réseau au sein de la structure même », a déclaré Kunjan Sobhani, analyste principal des semi-conducteurs chez Bloomberg Intelligence.

« Démontrer qu'Ethernet aux normes ouvertes peut désormais offrir une commutation sous-microseconde, un transport sans perte et des collectifs sur puce marque une étape pivot vers la satisfaction de ces exigences d'une pile scale-up IA, dont le volume est projeté à des dizaines de milliards dans quelques années. »

Sobhani.

Dans les configurations traditionnelles de scale-out, les serveurs sont répartis sur des racks et reliés via des réseaux standard, ce qui ajoute de la latence. Le scale-up, en revanche, maintient les éléments de calcul dans une empreinte physique étroite, souvent un seul rack, de sorte que les bits rebondissent en microsecondes. Ce type de vitesse est vital lors de l'entraînement de réseaux neuronaux massifs ou de l'exécution d'inférences en temps réel.

À mesure que les modèles IA deviennent de plus en plus grands, la course est lancée pour concevoir des infrastructures capables de gérer des exaoctets de paramètres tout en restant rentables et économes en énergie. En adoptant Ethernet, une norme ouverte bien comprise, et en repoussant ses limites de performance, Broadcom espère offrir aux opérateurs de centres de données un chemin plus facile pour étendre leurs fermes IA sans être verrouillé dans l'écosystème d'un seul fournisseur.

Avec Tomahawk Ultra désormais entre les mains des clients, la course à qui fournit les moteurs IA du monde entre dans une nouvelle phase, plus encombrée, où l'ouverture et l'échelle pourraient faire pencher la balance tout autant que la puissance brute des puces. Cela positionne également Broadcom comme une force à prendre au sérieux dans l'industrie de l'IA.

La société a été citée au T1 comme l'une des principales entreprises à détenir une participation et à exploiter les usines d'Intel conjointement avec TSMC, Nvidia et AMD, dans le cadre d'une affaire proposée par TSMC.