Broadcom presenta il chip Tomahawk Ultra per competere con Nvidia

Martedì la divisione chip di Broadcom ha lanciato un nuovo processore di rete, progettato per potenziare i carichi di lavoro dell'intelligenza artificiale che richiedono uno stretto coordinamento tra centinaia di unità di elaborazione.

L'annuncio segna un'ulteriore vittoria nella battaglia con Nvidia, leader nella produzione di chip per l'intelligenza artificiale. Questo ultimo dispositivo Broadcom, noto come Tomahawk Ultra, funge da controllore del traffico, trasferendo enormi volumi di dati tra decine o addirittura centinaia di chip di silicio alloggiati in un singolo rack per server.

Tomahawk Ultra sfida direttamente Nvidia

L'addestramento e l'inferenza dell'intelligenza artificiale si basano su un'elaborazione "scale-up", in cui i chip sono raggruppati in cluster per condividere dati a velocità elevatissime. Finora, lo switch NVLink di Nvidia ha dominato incontrastato in questo ambito, ma Broadcom afferma che il suo nuovo arrivato può collegare fino a quattro volte più processori in un'unica rete.

Anziché affidarsi a un'interconnessione proprietaria, Ultra sfrutta una versione potenziata di Ethernet, ottimizzata per bassa latenza e throughput elevato. Ram Velaga, vicepresidente senior di Broadcomdent direttore generale del Core Switching Group di Broadcom, ha dichiarato ai giornalisti che il chip è in grado di gestire le comunicazioni tra un numero di unità di gran lunga superiore rispetto al prodotto concorrente di Nvidia, il tutto utilizzando un protocollo ampiamente supportato.

"Tomahawk Ultra è una testimonianza di innovazione, frutto di uno sforzo pluriennale da parte di centinaia di ingegneri che hanno reinventato ogni aspetto dello switch Ethernet."

Velaga.

"Questo evidenzia l'impegno di Broadcom nell'investire nel progresso di Ethernet per reti ad alte prestazioni e nell'espansione dell'intelligenza artificiale", ha aggiunto Velaga.

Broadcom fornisce già servizi di produzione di chip a clienti come Google, aiutando il colosso della ricerca ad assemblare i propri acceleratori per l'intelligenza artificiale come alternativa alle GPU di Nvidia.

Con l'arrivo di Tomahawk Ultra, l'azienda spera di indebolire ulteriormente il dominio di Nvidia offrendo agli architetti di data center uno switch in grado di scalare su cluster più grandi a velocità simili o migliori.

Gli ingegneri di Broadcom hanno impiegato circa tre anni nello sviluppo

I processori saranno realizzati da Taiwan Semiconductor Manufacturing Co. utilizzando il suo nodo a cinque nanometri, lo stesso processo avanzato alla base di molti dei chip più veloci al mondo. Velaga ha osservato che i team di ingegneri di Broadcom hanno impiegato circa tre anni nello sviluppo, inizialmente concentrandosi sui mercati dell'elaborazione ad alte prestazioni, prima di concentrarsi sul fiorente settore dell'intelligenza artificiale generativa.

"I carichi di lavoro di intelligenza artificiale e calcolo ad alte prestazioni stanno convergendo in cluster di acceleratori strettamente interconnessi che richiedono una latenza da supercomputer, fondamentale per l'inferenza, l'affidabilità e l'intelligenza in rete proveniente dall'infrastruttura stessa", ha affermato Kunjan Sobhani, analista senior del settore semiconduttori presso Bloomberg Intelligence.

"Dimostrare che Ethernet a standard aperti può ora offrire commutazione sub-microsecondo, trasporto senza perdite e collettivi on-chip segna un passo fondamentale verso la soddisfazione delle esigenze di uno stack di intelligenza artificiale in espansione, che si prevede raggiungerà miliardi a due cifre nel giro di pochi anni."

Sobhani.

Nelle configurazioni tradizionali con scalabilità orizzontale, i server sono distribuiti su rack e collegati tramite reti standard, il che aumenta la latenza. La scalabilità verticale, al contrario, mantiene gli elementi di elaborazione in uno spazio fisico ridotto, spesso un singolo rack, in modo che i bit rimbalzino avanti e indietro in microsecondi. Questo tipo di velocità è fondamentale quando si addestrano reti neurali di grandi dimensioni o si esegue l'inferenza in tempo reale.

Con l'aumento delle dimensioni dei modelli di intelligenza artificiale, la corsa alla progettazione di infrastrutture in grado di gestire exabyte di parametri, pur mantenendo un rapporto costo-efficacia ed efficienza energetica. Adottando Ethernet, uno standard aperto e ampiamente riconosciuto, e ampliandone le prestazioni, Broadcom spera di offrire agli operatori di data center un percorso più semplice per espandere le proprie farm di intelligenza artificiale senza essere vincolati all'ecosistema di un unico fornitore.

Con Tomahawk Ultra ora nelle mani dei clienti, la competizione per la fornitura dei motori di intelligenza artificiale a livello mondiale sta entrando in una nuova fase, più serrata, in cui apertura e scalabilità potrebbero far pendere la bilancia tanto quanto la potenza pura dei chip. Questo pone Broadcom sulla strada per diventare una forza da non sottovalutare nel settore dell'intelligenza artificiale.

l' azienda era stata indicata come una delle principali società a detenere una partecipazione e a gestire gli stabilimenti di Intel insieme a TSMC, Nvidia e AMD, in un accordo che, secondo alcune indiscrezioni, sarebbe stato proposto da TSMC.