NVIDIA sta invadendo il territorio di Intel e AMD

Il 31 maggio, NVIDIA ha annunciato la produzione completa della sua CPU Vera, posizionando il chip a 88 core come il primo processore del settore dei data center progettato specificamente per i carichi di lavoro degli agenti AI. Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance e CoreWeave sono tra i primi ad adottare la tecnologia e pianificare i deploy, secondo il comunicato stampa dell'azienda.

Il chip rappresenta la spinta più aggressiva di NVIDIA finora oltre le GPU e nel mercato delle CPU, dominato da Intel e AMD per decenni. Dove Grace, la precedente chip server basata su ARM di NVIDIA, ha spedito circa 2,5 milioni di unità finora, Vera introduce un'architettura di core completamente personalizzata chiamata Olympus invece di licenziare un design ARM pronto all'uso, secondo Tom’s Hardware.

Perché i carichi di lavoro degli Agenti AI stanno ridefinendo la domanda di CPU nei data center

L'economia dei data center per l'intelligenza artificiale è cambiata. Man mano che i modelli passano dal rispondere alle domande all'eseguire codice, invocare programmi e coordinare compiti complessi, la CPU diventa un problema chiave. Jensen Huang, CEO di NVIDIA, ha descritto il potenziale direttamente: “Gli agenti AI saranno i maggiori utenti di calcolo… Vera è la prima CPU progettata per quel futuro, costruita per eseguire AI agenziale su scala iperbolica con prestazioni, efficienza e programmabilità straordinarie.”

Le specifiche di Vera illustrano il suo potenziale. Dispone di 88 core Olympus, insieme alla tecnologia Spatial Multithreading dell'azienda, completata da un sistema di memoria LPDDR5X, che offre fino a 1,2 TB al secondo di larghezza di banda consumando meno di 30 watt di potenza di memoria. Secondo il produttore, Vera può eseguire compiti 1,8 volte più velocemente dei processori x86 quando lavora su applicazioni AI agenziali come la compilazione del codice, l'esecuzione di Python, Java e la manipolazione dei database.

Test indipendenti effettuati da Phoronix, utilizzando benchmark selezionati da NVIDIA, hanno mostrato che Vera compila un kernel Linux in 20 secondi (in una configurazione a socket singolo), offrendo un aumento delle prestazioni del 10% rispetto all'EPYC 9575F di AMD che opera a 5,0 GHz, come affermato dal blog di NVIDIA. Il fondatore di Phoronix, Michael Larabel, ha dichiarato che Vera “finisce per sferrare un colpo potente con una competitività verso le CPU x86_64 di Intel/AMD che non ho mai visto in nessun altro processore ARM o non-x86_64.”

Tuttavia, questo viene con una precisazione, poiché i benchmark utilizzati sopra sono stati selezionati ed eseguiti dalla stessa NVIDIA. Finora non è stato condotto alcun test indipendente.

Adozione iniziale da parte di laboratori di intelligenza artificiale, iperscalatori e attori aziendali

La lista dei clienti di Vera include istituzioni di ricerca AI, hyperscaler e infrastrutture finanziarie. In dichiarazioni fornite dal presidente della NYSE Lynn Martin, lo scambio, che gestisce oltre 1,1 trilioni di messaggi al giorno, intende utilizzare Vera insieme a Redpanda e Hewlett Packard Enterprise per aumentare la capacità e ridurre la latenza.

Secondo James Bradbury, responsabile del calcolo presso Anthropic, l'azienda sta valutando Vera per carichi di lavoro agentici intensivi per la CPU. «Scalare il calcolo è un importante acceleratore per la crescita dei modelli», ha dichiarato Bradbury. «Siamo entusiasti di vedere Vera emergere come una parte promettente dell'ecosistema nella risoluzione dei carichi di lavoro agentici».

Oracle Cloud Infrastructure prevede di diventare il primo iperscalatore a utilizzare Vera, con il vicepresidente esecutivo di OCI Mahesh Thiagarajan che lo definisce «la prossima frontiera nel supercalcolo AI iperscalato».

Dal lato della produzione hardware, Dell Technologies, HPE, Lenovo e Supermicro offriranno Vera in configurazioni di server CPU standalone. NVIDIA ha descritto questo come «la prima opzione CPU standard oltre x86» da parte dei principali OEM. Anche i produttori taiwanesi, tra cui ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology e Wistron, stanno costruendo sistemi.

Integrazione più ampia nello stack di infrastruttura AI di NVIDIA

Vera si inserisce perfettamente nella visione dell'ecosistema full-stack AI factory di NVIDIA. Vera funziona come host CPU della piattaforma Vera Rubin, che si abbina alle GPU Rubin utilizzando la seconda generazione di NVLink-C2C con una larghezza di banda di 1,8 TB/s. Inoltre, Vera fa parte della piattaforma BlueField-4 STX per quanto riguarda la rete e lo storage. Secondo Dealroom, Ian Buck, dirigente di NVIDIA, ha consegnato le prime unità Vera a clienti come Anthropic a San Francisco e SpaceXAI a Palo Alto.

La catena di approvvigionamento della memoria ha reagito immediatamente. DIGITIMES afferma che la mossa di NVIDIA di commercializzare Vera come chip separato crea domanda di DRAM a basso consumo, esercitando così maggiore pressione sulla già stretta catena di approvvigionamento esistente di chip di memoria.

Cosa osservare mentre Vera entra nella fase di implementazione

I sistemi Vera verranno spediti ai partner e ai provider cloud nel terzo trimestre di quest'anno. Tuttavia, ci sono alcuni aspetti da considerare: se i risultati dei benchmark indipendenti contro una gamma di applicazioni generali supportano l'affermazione di NVIDIA sulle prestazioni e se il chip personalizzato Olympus può competere con la capacità del software x86 per la compatibilità delle applicazioni. Al momento, però, una cosa è chiara: NVIDIA non è più soddisfatta di possedere solo l'acceleratore. Vuole l'intero stack del data center AI.