Amazon corre contro Microsoft e Google nell'IA generativa con chip AWS personalizzati

In un edificio per uffici anonimo nel cuore di Austin, Texas, un piccolo team di dipendenti Amazon sta lavorando febbrilmente alla progettazione di due microchip distinti, su misura per l'addestramento e l'accelerazione dell'IA generativa. Questi chip AWS personalizzati, denominati Inferentia e Trainium, presentano un'alternativa valida per i clienti AWS che cercano di addestrare i loro modelli linguistici di grandi dimensioni senza fare affidamento su GPU Nvidia sempre più scarse e costose.

Il CEO di Amazon Web Services (AWS), Adam Selipsky, ha notato in un'intervista di giugno che la domanda di chip per alimentare l'IA generativa sta crescendo a livello globale. L'approccio proattivo di Amazon mira a soddisfare questa domanda, affermando che l'azienda è ben posizionata per fornire la capacità necessaria per i requisiti collettivi dei suoi clienti.

Recuperare il ritardo in un settore in piena espansione

Tuttavia, altri attori sono avanzati investendo notevolmente per sfruttare il boom dell'IA generativa. Quando OpenAI ha presentato ChatGPT a novembre, Microsoft ha attirato notevole attenzione ospitando questo chatbot virale e impegnandosi per circa 13 miliardi di dollari in OpenAI. Microsoft ha rapidamente integrato i modelli di IA generativa nei suoi prodotti, incorporandoli in Bing a febbraio. Nello stesso mese, Google ha lanciato Bard, il suo modello linguistico di grandi dimensioni, e ha investito una cospicua somma di 300 milioni di dollari nel concorrente di OpenAI, Anthropic.

Amazon ha impiegato un po' più di tempo per entrare in scena. Non è stato fino ad aprile che Amazon ha svelato la sua linea di modelli linguistici di grandi dimensioni, denominata Titan, insieme al servizio Bedrock, volto ad aiutare gli sviluppatori a migliorare il software con capacità di intelligenza artificiale generativa. Questo ingresso tardivo ha portato alcuni esperti a suggerire che Amazon, solitamente nota per essere pioniera nei mercati, si trovi ora a rincorrere gli altri nel campo dell'intelligenza artificiale generativa.

Differenziazione tecnica con silicio personalizzato

Chirag Dekate, Vicepresidente Analista presso Gartner, ritiene che il silicio personalizzato di Amazon potrebbe alla fine fornire un vantaggio competitivo nel settore dell'intelligenza artificiale generativa. Le distinte capacità tecniche offerte da questi chip personalizzati, Inferentia e Trainium, potrebbero distinguere Amazon. È notevole che Microsoft non disponga di equivalenti a Trainium e Inferentia.

Amazon ha intrapreso il suo percorso con il silicio personalizzato nel 2013, iniziando con hardware specializzato denominato Nitro. Nel tempo, Nitro è diventato il chip AWS con il volume più elevato, con oltre 20 milioni di unità in uso, presenti su ogni server AWS.

Nel 2015, Amazon ha acquisito la startup israeliana di chip Annapurna Labs. Nel 2018, l'azienda ha lanciato il suo chip per server basato su architettura Arm, Graviton, per sfidare i dominanti processori x86 dei giganti del settore come AMD e Intel. Nello stesso anno, Amazon si è avventurata nei chip focalizzati sull'intelligenza artificiale. Questo avvenne un paio di anni dopo che Google introdusse la sua prima Tensor Processing Unit (TPU). Nel frattempo, Microsoft è rimasta in silenzio riguardo al suo chip AI Athena, sviluppato in collaborazione con AMD.

Chip personalizzati e i loro ruoli

Un tour dietro le quinte del laboratorio di chip di Amazon ad Austin rivela lo sviluppo e il test di Trainium e Inferentia. Matt Wood, Vicepresidente del Prodotto, ne spiega i ruoli. L'apprendimento automatico comprende due fasi: l'addestramento dei modelli e l'esecuzione di inferenze sui modelli addestrati. Trainium, introdotto nel 2021, offre un miglioramento sostanziale del 50% nel rapporto prezzo-prestazioni rispetto ad altri metodi di addestramento di modelli di apprendimento automatico su AWS. Inferentia, rilasciata nel 2019 e ora nella sua seconda generazione, eccelle nell'elaborazione di inferenze di apprendimento automatico ad alta throughput e bassa latenza.

Nonostante gli sforzi di Amazon, le GPU di Nvidia dominano attualmente l'addestramento dei modelli. A luglio, AWS ha introdotto hardware di accelerazione AI alimentato da Nvidia H100, evidenziando la forte posizione di Nvidia nel panorama dell'AI.

Sfruttare il dominio nel cloud per un vantaggio

Il dominio di Amazon nel settore del cloud la distingue. Con una massiccia base installata nel cloud, la forza di Amazon risiede nella capacità di consentire ai clienti esistenti di espandersi nella creazione di valore utilizzando l'intelligenza artificiale generativa. Milioni di clienti AWS, già familiari con la piattaforma, potrebbero trovare allettante utilizzare i servizi di Amazon per attività di intelligenza artificiale generativa, basandosi sulle loro applicazioni e archiviazione di dati esistenti.

AWS detiene la parte del leone del mercato del cloud computing, comandando il 40% nel 2022. Nonostante recenti cali nel reddito operativo, AWS contribuisce ancora in modo significativo per il 70% al profitto operativo complessivo di Amazon. I suoi ampi margini operativi superano quelli di Google Cloud.

L'espansione del set di strumenti di AWS per l'intelligenza artificiale generativa

AWS si concentra su un set di strumenti diversificato per l'intelligenza artificiale generativa piuttosto che sfidare direttamente ChatGPT. AWS HealthScribe, svelato a luglio, impiega l'intelligenza artificiale generativa per aiutare i medici a redigere riassunti delle visite dei pazienti. SageMaker, un hub di apprendimento automatico, offre algoritmi e modelli. CodeWhisperer, un compagno di codifica, ha aumentato la produttività degli sviluppatori del 57% in media. L'anno scorso, Microsoft ha riportato miglioramenti simili nella produttività da GitHub Copilot.

A giugno, AWS ha annunciato un centro di innovazione per l'intelligenza artificiale generativa da 100 milioni di dollari. L'azienda mira a guidare i clienti nella comprensione del potenziale dell'intelligenza artificiale generativa nei loro contesti aziendali offrendo assistenza personalizzata da esperti.

Colmare le preoccupazioni sulla sicurezza

La proliferazione dell'AI solleva anche preoccupazioni sulla sicurezza, in particolare riguardo alle informazioni proprietarie nei dati di addestramento utilizzati per i modelli linguistici pubblici. AWS affronta queste preoccupazioni assicurandosi che i modelli di intelligenza artificiale generativa accessibili tramite il suo servizio Bedrock operino all'interno di ambienti cloud privati virtuali isolati. Questa configurazione garantisce la crittografia e controlli di accesso AWS coerenti, alleviando le preoccupazioni sulla fuoriuscita di dati.

La spinta continua di Amazon nell'intelligenza artificiale generativa

Amazon continua a spingere avanti nel regno dell'intelligenza artificiale generativa. Sebbene oltre 100.000 clienti stiano attualmente utilizzando l'apprendimento automatico su AWS, questo costituisce solo una frazione della vasta base di clienti di AWS. Tuttavia, gli analisti credono che la prominenza e la reputazione di Amazon come fornitore affidabile potrebbero spingere le imprese a esplorare più approfonditamente l'ecosistema di intelligenza artificiale generativa di Amazon.

Chirag Dekate sottolinea che è improbabile che le imprese cambino le loro strategie di infrastruttura esclusivamente sulla base dei progressi di un concorrente nell'intelligenza artificiale generativa. Per i clienti Amazon esistenti, l'attrattiva dell'ampio ecosistema di Amazon potrebbe svolgere un ruolo fondamentale nelle loro decisioni.