Broadcom svela il chip Tomahawk Ultra per sfidare Nvidia

- Broadcom ha presentato Tomahawk Ultra per accelerare il flusso di dati nell'IA.
- Il chip, secondo quanto riportato, collega molti più processori rispetto allo switch di Nvidia.
- Utilizza inoltre Ethernet ad alta velocità invece di collegamenti proprietari.
La divisione chip di Broadcom ha lanciato martedì un nuovo processore di rete, progettato per potenziare i carichi di lavoro di intelligenza artificiale che richiedono una stretta coordinazione tra centinaia di unità di calcolo.
L'annuncio segna un'altra salva nella sua disputa con il leader nella produzione di chip AI, Nvidia. Questo ultimo dispositivo Broadcom, noto come Tomahawk Ultra, funge da controllore del traffico, spostando vaste quantità di dati tra dozzine o persino centinaia di chip di silicio ospitati in un singolo rack del server.
Tomahawk Ultra sfida direttamente Nvidia
L'addestramento e l'inferenza AI si basano sul calcolo "scale-up", dove i chip sono raggruppati strettamente per condividere dati a velocità fulminee. Fino ad ora, lo switch NVLink di Nvidia regnava sovrano per quel compito, ma Broadcom afferma che il suo nuovo arrivato può collegare fino a quattro volte più processori in una singola rete.
Invece di fare affidamento su un'interconnessione proprietaria, l'Ultra sfrutta una versione turbo di Ethernet, potenziata per bassa latenza e alto throughput. Ram Velaga, vice presidente senior e general manager del Core Switching Group di Broadcom, ha detto ai giornalisti che il chip può gestire le comunicazioni tra molte più unità rispetto al prodotto concorrente di Nvidia, tutto mentre utilizza un protocollo ampiamente supportato.
"Tomahawk Ultra è una testimonianza dell'innovazione, che coinvolge uno sforzo pluriennale di centinaia di ingegneri che hanno immaginato ogni aspetto dello switch Ethernet."
Velaga.
"Ciò evidenzia l'impegno di Broadcom a investire nell'avanzamento di Ethernet per il networking ad alte prestazioni e lo scale-up AI", ha aggiunto Velaga.
Broadcom ha già fornito servizi di produzione di chip a clienti come Google, aiutando il gigante della ricerca ad assemblare i propri acceleratori AI come alternativa alle GPU Nvidia.
Con Tomahawk Ultra ora in spedizione, la società spera di erodere ulteriormente il dominio di Nvidia offrendo agli architetti dei data center uno switch che scala a cluster più grandi a velocità simili o migliori.
Gli ingegneri di Broadcom hanno trascorso circa tre anni nello sviluppo
I processori saranno fabbricati da Taiwan Semiconductor Manufacturing Co. utilizzando il suo nodo a cinque nanometri, lo stesso processo avanzato dietro a molti dei chip più veloci del mondo. Velaga ha notato che i team di ingegneria di Broadcom hanno trascorso circa tre anni nello sviluppo, mirando originariamente ai mercati del calcolo ad alte prestazioni prima di passare al fiorente settore dell'IA generativa.
"I carichi di lavoro AI e HPC si stanno convergendo in cluster di acceleratori strettamente accoppiati che richiedono latenza di classe supercomputer, critica per l'inferenza, l'affidabilità e l'intelligenza in-network dalla stessa infrastruttura", ha detto Kunjan Sobhani, analista capo dei semiconduttori, Bloomberg Intelligence.
"Dimostrare che l'Ethernet open-standard può ora fornire switching sub-microsecondo, trasporto lossless e collettivi on-chip segna un passo fondamentale verso il soddisfacimento di quelle richieste di uno stack AI scale-up, che si prevede sarà di decine di miliardi in pochi anni."
Sobhani.
Nelle configurazioni tradizionali di scale-out, i server sono distribuiti tra i rack e collegati tramite reti standard, il che aggiunge latenza. Lo scale-up, al contrario, mantiene gli elementi di calcolo entro un'impronta fisica stretta, spesso un singolo rack, così i bit rimbalzano avanti e indietro in microsecondi. Questo tipo di velocità è vitale quando si addestrano reti neurali massive o si esegue inferenza in tempo reale.
Man mano che i modelli AI diventano sempre più grandi, la gara è progettare infrastrutture in grado di gestire exabyte di parametri restando economicamente convenienti ed efficienti dal punto di vista energetico. Adottando Ethernet, uno standard aperto ben compreso, e spingendo il suo limite di prestazioni, Broadcom spera di offrire agli operatori dei data center un percorso più facile per espandere le loro fattorie AI senza essere vincolati all'ecosistema di un singolo fornitore.
Con Tomahawk Ultra ora nelle mani dei clienti, la gara su chi fornisce i motori AI del mondo sta entrando in una nuova fase, più affollata, in cui l'apertura e la scala potrebbero inclinare l'equilibrio tanto quanto la potenza grezza dei chip. Questo pone anche Broadcom sulla strada per diventare una forza con cui fare i conti nell'industria AI.
La azienda era stata indicata nel Q1 come una delle principali aziende a possedere una quota e a gestire insieme le fabbriche di Intel con TSMC, Nvidia e AMD, in un accordo presumibilmente proposto da TSMC.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Enacy Mapakame
Enacy Mapakame è una giornalista con oltre 10 anni di esperienza nel settore delle notizie finanziarie e aziendali. Si occupa di mercati dei capitali e tecnologie emergenti: metaverso, intelligenza artificiale e criptovalute. Enacy è laureata con onori in Media and Society Studies.














