Arm lancia CPU AGI a 3 nanometri con Meta come primo cliente per data center

Arm ha appena fatto qualcosa che ha evitato per decenni. L'azienda che ha alimentato silenziosamente la maggior parte dei chip del mondo dalle quinte è ora uscita allo scoperto e ha costruito il proprio processore. Invece di vendere solo progetti e raccogliere royalty, Arm sta ora immettendo sul mercato i propri silicon, iniziando con una nuova CPU AGI a 3 nanometri mirata direttamente ai data center.

Questo mette Arm in diretta concorrenza con alcune delle stesse società che hanno costruito prodotti sulla sua architettura.

L'amministratore delegato Rene Haas ha presentato il nuovo processore in-house martedì durante un evento a San Francisco. L'azienda lo chiama AGI CPU, un chip per data center mirato ai carichi di lavoro IA. Arm non vende più solo la base. Ora vende il chip stesso.

Meta si unisce ad Arm ed espande la sua infrastruttura IA

Meta è il primo cliente. L'azienda sta costruendo diversi gigawatt di data center per l'IA e prevede di spendere fino a 135 miliardi di dollari in spese in capitale quest'anno.

A febbraio, Meta ha anche assicurato una grande fornitura di chip da Nvidia e Advanced Micro Devices. Il nuovo accordo con Arm gli fornisce un'altra fonte di processore mentre la sua espansione IA continua ad ampliarsi.

Paul Saab, un ingegnere software di Meta che ha lavorato al progetto del chip Arm dal 2023, ha dichiarato ai giornalisti: "Nel mondo di oggi, hai davvero solo un paio di giocatori."

Paul ha anche detto che l'accordo "consente molta più flessibilità nel nostro stack software e nella nostra catena di approvvigionamento". Le società non hanno rivelato i termini.

La domanda di CPU aumenta mentre l'IA agenziale mette sotto stress il calcolo

La lanciare arriva mentre le CPU stanno ricevendo maggiore attenzione nell'IA. Nvidia, che guida il mercato per le GPU per l'IA, aveva in precedenza dichiarato che le CPU stanno "diventando il collo di bottiglia" poiché l'IA agenziale cambia le esigenze di calcolo.

Futurum Group lo ha definito una "crisi silenziosa dell'offerta" e ha previsto che la crescita del mercato delle CPU potrebbe superare quella delle GPU entro il 2028.

La divisione tra i due tipi di chip è semplice. Le GPU sono utili per l'addestramento e l'esecuzione di modelli IA perché migliaia di core possono eseguire molte operazioni contemporaneamente.

Le CPU gestiscono un numero minore di core più potenti progettati per compiti generali che vengono eseguiti in sequenza. L'IA agenziale ha bisogno di molta di quella computazione generale perché enormi quantità di dati si spostano tra più agenti.

Alla conferenza GTC di Nvidia la scorsa settimana, l'amministratore delegato Jensen Huang ha rivelato un intero rack riempito solo con CPU Vera. All'evento di martedì di Arm, Huang è apparso in un messaggio registrato congratulandosi con l'azienda per il lancio. Sono intervenuti anche leader di Google, Amazon, Microsoft, Oracle, Broadcom, Micron, Samsung, SK Hynix e Marvell. Arm ha dichiarato ai giornalisti che circa 50 partner avevano mostrato supporto prima del lancio.

Mohamed Awad, capo del cloud AI di Arm, ha dichiarato: "È un mercato da 1 trilione di dollari, e quello che vediamo ripetutamente è che i nostri partner stanno uscendo e comprendendo e realizzando che questo è davvero ottimo per il settore."

Arm amplia i test e si affida a TSMC

Per raggiungere questo punto, Arm ha speso 71 milioni di dollari e circa 18 mesi per costruire tre nuove sale di laboratorio nel suo campus ad Austin, in Texas.

Un team che un tempo era piccolo è cresciuto a oltre 1.000 persone. Gli ingegneri utilizzano quei laboratori per attivare i chip dopo che lasciano la fabbrica e li sottopongono a ripetuti round di test.

Come la maggior parte delle aziende di chip AI fabless, Arm sta utilizzando Taiwan Semiconductor Manufacturing Company per produrre il processore. La CPU AGI è realizzata sul nodo a 3 nanometri di TSMC e tutta la produzione è attualmente in Taiwan.

TSMC sta preparando un fab a 3nm in Arizona. Awad ha detto che Arm "vorrebbe produrre qui", ma ha aggiunto che la scelta finale dipende da ciò che vogliono i clienti.

Arm è ancora meglio conosciuta per alimentare i chip mobili in quasi tutti gli smartphone. È entrata nel mercato dei chip per data center nel 2018 con Neoverse. Amazon ha portato quella piattaforma nel mainstream con Graviton, e anche Google e Microsoft basano i loro chip IA sui progetti di Arm.

Moorhead ha dichiarato: "Se Arm non esistesse, tutte quelle società che hanno i propri processori non sarebbero in grado di crearne di propri." La maggior parte dei chip per server utilizza ancora progetti x86 di Intel e AMD, che Moorhead ha definito "collaudati e affidabili."

Awad ha detto che il team ha "ottimizzato senza pietà" la CPU AGI per l'intelligenza generale artificiale, ed è per questo che porta quel nome. Un rack raffreddato ad aria può contenere fino a 64 CPU, o circa 8.700 core. Ha dichiarato: "Si può ottenere due volte le prestazioni per watt rispetto a un rack x86."

Paul ha dichiarato che il wattaggio è "una risorsa molto scarsa", aggiungendo che migliori prestazioni per watt lasciano più energia per altre parti del data center.