Amazon fatica a sfidare la supremazia dei chip AI di Nvidia

Amazon sta sviluppando i propri chip IA per ridurre i costi, il che ha anche aiutato ad aumentare la redditività di Amazon Web Services (AWS). Tuttavia, il gigante dell'e-commerce sta faticando a sviluppare chip IA in grado di competere con i chip standard di Nvidia.

Problemi di migrazione del progetto, lacune di compatibilità e basso utilizzo sono alcune delle preoccupazioni che rallentano l'adozione dei chip IA di Amazon. La situazione ha anche messo a rischio pesanti entrate che Amazon genera dal suo business cloud. Le sfide che Amazon affronta sono state identificate attraverso documenti riservati e fonti a conoscenza della materia, come riportato da Business Insider.

I chip IA interni di Amazon incontrano un'adozione soffocata

Trainium e Inferentia sono i chip di fascia alta progettati da Amazon che sono debuttati alla fine dello scorso anno. La pubblicazione ha riferito che lo scorso anno, il tasso di adozione di Trainium tra i clienti di AWS era appena dello 0,5% rispetto a quello delle unità di elaborazione grafica di Nvidia.

Leggi anche: Il profitto di Amazon supera le aspettative di Wall Street mentre le opere di IA generativa di AWS fanno meraviglie

Amazon ha effettuato la valutazione per misurare la percentuale di utilizzo dei diversi chip IA attraverso i suoi servizi AWS ad aprile 2024, secondo il rapporto. Allo stesso tempo, il tasso di adozione per Inferentia era leggermente più alto, con il 2,7%. Inferentia è un chip speciale progettato per l'inferenza, un compito di IA che di solito si riferisce al processo di calcolo per l'utilizzo del modello IA da parte dei consumatori finali. Il rapporto ha menzionato un documento interno che diceva:

“I primi tentativi dei clienti hanno esposto punti di attrito e soffocato l'adozione.”

La dichiarazione sopra si riferisce alle sfide che i grandi clienti cloud hanno affrontato quando si sono trasferiti ai chip personalizzati di Amazon. La piattaforma CUDA di Nvidia è considerata più attraente per i clienti, e il rapporto la identifica come una ragione chiave.

Lo sviluppo di chip IA personalizzati di Amazon è sotto revisione interna

AWS, il più grande provider di servizi cloud al mondo, sta ora sviluppando i suoi chip informatici prodotti internamente per facilitare le operazioni. Amazon, a volte, ostenta i suoi sforzi sui chip IA. Tuttavia, l'immagine mostrata nei documenti è diversa da quella che l'azienda proietta.

I documenti interni affermano che l'azienda sta faticando con un tasso di adozione lento, ma il CEO di Amazon ha opinioni diverse. Alla sua chiamata per gli utili del primo trimestre, il CEO di Amazon Andy Jassy ha detto che la domanda per i chip AWS era alta.

“Abbiamo la più ampia selezione di istanze di calcolo NVIDIA in circolazione, ma la domanda per il nostro silicon personalizzato, per l'addestramento e l'inferenza è piuttosto alta, dati i suoi benefici favorevoli in termini di prestazioni rispetto alle alternative disponibili.”

Andy Jassy

Jassy ha anche menzionato i primi adottanti dei chip siliconici di AWS nella sua lettera agli investitori, dicendo che “abbiamo già diversi clienti che utilizzano i nostri chip IA, tra cui Anthropic, Airbnb, Hugging Face, Qualtrics, Ricoh e Snap”. Allo stesso tempo, Anthropic è un caso completamente diverso perché Amazon è il principale sostenitore della startup. Il gigante del cloud ha investito 4 miliardi di dollari in Anthropic, e l'accordo di investimento lo vincola a utilizzare il silicon progettato da AWS.

Un componente principale di AWS sfrutta le GPU Nvidia

Amazon Web Services offre una varietà di processori, dai chip Grass Hopper di Nvidia ad AMD e Intel. La maggior parte della sua redditività deriva dalla progettazione dei suoi chip per data center, il che lo aiuta a risparmiare costi evitando di acquistare GPU da Nvidia.

Leggi anche: Nvidia sperimenta una crescita notevole amidst la crescente domanda di IA e GPU

Amazon ha debuttato il suo primo chip IA, Inferntia, nel 2018, ma Nvidia guida ancora nell'offrire soluzioni più ampiamente adottate da diverse industrie. AWS, Microsoft e Google sono alcuni dei più grandi clienti di Nvidia. Tutti questi giganti affittano GPU attraverso i loro servizi cloud. 

A marzo, Adam Selipsku, CEO di AWS, ha partecipato a Nvidia GTC 2023. Entrambe le aziende hanno fatto un annuncio congiunto focalizzato sulla loro collaborazione strategica per avanzare l'IA generativa. 

“La profonda collaborazione tra le nostre due organizzazioni risale a più di 13 anni fa, quando insieme abbiamo lanciato la prima istanza cloud GPU al mondo su AWS, e oggi offriamo la più ampia gamma di soluzioni GPU NVIDIA per i clienti.”

Selipsku

La piattaforma di Nvidia, chiamata Cuda, è solitamente preferita dagli sviluppatori. Poiché Nvidia ha speso molti anni di tempo ed effort per crearla, e l'industria l'ha adottata, il che rende più facile gestire le cose per loro. D'altra parte, Amazon deve ancora risolvere questo puzzle con tentativi ed errori.

Reportage di Cryptopolitan a cura di Aamir Sheikh