AWS sfida il dominio di Nvidia nell'AI con il suo chip personalizzato

L’AWS (Amazon Web Services) di Amazon è pronta a sfidare il dominio di Nvidia nel settore dei chip per l’intelligenza artificiale, spingendo sulla sua strategia di chip personalizzati attraverso le CPU Graviton4 e gli acceleratori della serie Trainium. I chip personalizzati sono progettati per massimizzare i margini di profitto nei carichi di lavoro di IA riducendo i costi di trasferimento dei dati negli ambienti cloud.

AWS . L'azienda crede che FRUT servirà come “espressione a biglietto unico” degli aspetti della piattaforma e dell'hardware dell'intelligenza artificiale. Questo significa semplicemente che gli investitori ottengono accesso all'infrastruttura AI con un prodotto, invece di mescolare diversi produttori di chip e nomi di piattaforme. un aggiornamento al suo chip Graviton4 che include una larghezza di banda di rete di 600 gigabit al secondo, definita dalla società come la più alta offerta nel cloud pubblico. Ali Saidi, ingegnere presso AWS, ha paragonato la velocità a una macchina che legge 100 CD musicali al secondo. La CPU Graviton4 è uno dei molti prodotti di chip di Annapurna Labs di Amazon ad Austin, nel Texas, ed è una vittoria per la strategia di personalizzazione dell'azienda, mettendola in concorrenza con i tradizionali player come Intel e AMD.

Con l'aggiornamento di Graviton4 alle porte e i chip Trainium di Project Rainier, Amazon ha dimostrato la sua ambizione di controllare l'intera infrastruttura di IA, dalla rete all'addestramento fino all'inferenza. Man mano che modelli di IA di grandi dimensioni come Claude 4 dimostravano di poter essere addestrati con successo su hardware non NVIDIA, la domanda non era se AWS potesse competere con il gigante dei chip, ma quanto mercato potesse conquistare.

Hutt afferma che Amazon fornirà alternative più economiche alle GPU di Nvidia

Gadi Hutt, Senior Director per l'Ingegneria dei Clienti e dei Prodotti di AWS, ha dichiarato che Amazon voleva ridurre i costi di addestramento dell'IA e fornire alternative alle Nvidia's costose unità di elaborazione grafica (GPU). Secondo AWS, il modello di IA Claude Opus 4 di Anthropic è stato lanciato su GPU Trainium2, e Project Rainier è alimentato da oltre 500.000 chip — un ordine che sarebbe generalmente andato a Nvidia. 

Hutt ha dichiarato che, sebbene Blackwell di Nvidia fosse un chip dalle prestazioni superiori rispetto a Trainium2, il chip AWS offriva un miglior rapporto costo-prestazioni. Ha anche sottolineato che Trainium3 sarebbe arrivato quest'anno, raddoppiando le prestazioni di Trainium2 e risparmiando energia per un ulteriore 50%. Rami Sinno, Direttore dell'Ingegneria presso Annapurna Labs di AWS, ha dichiarato che la domanda per questi chip stava già superando l'offerta.

"Il nostro approvvigionamento è molto, molto ampio, ma ogni singolo servizio che costruiamo ha un cliente associato."

–Rami Sinno, Direttore dell'Ingegneria presso Annapurna Labs di AWS

Il team AWS ha sottolineato che, sebbene la società abbia riconosciuto specifiche lacune, preferiva lavorare con startup innovative più piccole come Anthropic, Scale AI e Fiddler piuttosto che fare affidamento su grandi fornitori. Amazon sostiene spesso queste aziende attraverso investimenti strategici, formando relazioni reciprocamente vantaggiose in cambio di fornire capitale o infrastrutture, come nel caso di Anthropic. AWS ha annunciato Project Rainier, un supercomputer AI costruito per la startup Anthropic, alla conferenza Invent 2024 lo scorso dicembre e si dice abbia investito 8 miliardi di dollari nel sostenere Anthropic.

I chip Graviton4 e Trainium3 di AWS promettono prestazioni ed efficienza migliorate 

Il team di Amazon ha rivelato che i chip Graviton4 e Trainium3 aggiornati, previsti per la fine del 2025, promettevano un salto di prestazioni di 4 volte e un'efficienza energetica migliore del 40%, comprimendo ulteriormente i margini di Nvidia. Ha aggiunto che questo non era solo una vittoria per la crescita del fatturato di AWS, ma un attacco diretto al premium delle GPU di Nvidia.

Rahul Kulkarni, Direttore della Gestione dei Prodotti per Compute e AI di Amazon, ha dichiarato che il Graviton4 aggiornato prometteva di offrire tre volte la potenza di calcolo e la memoria del suo predecessore, il 75% in più di larghezza di banda della memoria e prestazioni migliori del 30%. Ha aggiunto che, collettivamente, ci si aspettasse che offrisse un miglior rapporto prezzo-prestazioni, significando che gli utenti ottenevano molte più prestazioni per ogni dollaro speso.

Patrick Moorhead, CEO e Chief Analyst presso Moor Insights & Strategy, ha dichiarato che tutte le aziende di IA stavano spendendo molto denaro per lo sviluppo di chip, aggiungendo che disponevano di enormi budget di R&D nonostante non divulgassero le cifre esatte degli investimenti. Moorhead, che ha trascorso oltre un decennio come vicepresidente presso AMD, ha aggiunto che Nvidia rimane ancora un player dominante nel mercato dei chip per l'IA. Tuttavia, c'è abbastanza domanda per sostenere più concorrenti, tra cui AWS.