Amazon potenzia il modello Claude di Anthropic con nuova infrastruttura AI Rainier

Amazon ha lanciato il suo progetto Rainier da 11 miliardi di dollari, che utilizzerà oltre un milione di chip Trainium 2 per alimentare il modello Claude di Anthropic entro la fine dell'anno. Il complesso rurale di 1.200 acri, vicino al Lago Michigan, è dedicato esclusivamente all'addestramento dei modelli AI di Anthropic su chip Amazon. 

L'azienda tecnologica ha dichiarato che il cluster di data center Rainier opera attualmente con circa 500.000 chip Tranium2, e Anthropic si è impegnata a raddoppiare il suo investimento nell'infrastruttura AI di Amazon. Nel frattempo, Amazon ha impegnato circa 8 miliardi di dollari e Google ha investito circa 3 miliardi di dollari in Anthropic. Amazon Web Services (AWS) definisce Project Rainier il cluster di calcolo per l'addestramento AI più potente al mondo. 

Cryptopolitan ha recentemente ha riportato che Anthropic non è lì per performare; sta calcolando, in modo metodico, e sta scalando la sua infrastruttura al massimo. I suoi modelli Claude sono distribuiti su GPU Nvidia, TPU di Google e chip Trainium di Amazon, e ogni chip esegue un compito specifico. La ricerca viene condotta da una sede, l'addestramento avviene in un'altra e l'inferenza viene eseguita altrove.  

Garman afferma che il futuro sta accadendo ora

Il CEO di AWS Matt Garman ha dichiarato che il cluster di calcolo Rainier non è un concetto futuro, ma un progetto già online. Tuttavia, secondo quanto riportato, gli scettici si chiedono se ci siano finanziamenti, energia e supporto della comunità sufficienti per portare a termine questi ambiziosi data center AI.   

L'esecutivo ha affermato che Amazon sta consegnando, grazie ai suoi decenni di esperienza nella gestione di dati logistici su larga scala. Ha inoltre stretto legami profondi e stretti con funzionari locali e statali attraverso i suoi enormi centri di evasione ordini, il progetto HQ2, i data center AWS e i hub logistici.  

“Questo non è un progetto futuro di cui abbiamo parlato che forse prenderà vita…Questo è in esecuzione e sta addestrando i loro modelli oggi.”

–Matt Garman, CEO di Amazon Web Services 

Mike Krieger, chief product officer di Anthropic, ha dichiarato che gli accordi sembrano buoni solo sulla carta, ma si materializzeranno solo se saranno montati, caricati e utilizzabili dai clienti. Tuttavia, ha riconosciuto che Amazon è incredibile in questo. Josh Sallabedra, che guida il sito Indiana Rainier e ha costruito data center Amazon da oltre 14 anni, ha dichiarato di non aver mai visto l'azienda tecnologica muoversi così velocemente. Garman lo ha descritto come una transizione dai campi di mais ai data center, quasi overnight. 

Krieger afferma di avere un'alta domanda per i modelli della sua azienda

Mike Krieger di Anthropic ha sottolineato l'alta domanda per i modelli AI della sua azienda, aggiungendo che la strategia multi-chip ha permesso all'azienda di servire quanto possibile quest'anno. Tuttavia, ha notato che l'azienda avrà bisogno di tutta la potenza di elaborazione possibile. 

Nel frattempo, Garman ha affermato di essere ben consapevole degli sforzi multi-chip e multi-cloud, ma ha chiarito che Amazon non ha piani per nulla di drastico, come fare offerte per Anthropic. Ha aggiunto che entrambe le aziende sono soddisfatte della partnership così com'è.

Anthropic ha anche dichiarato di non fare affidamento esclusivamente su Amazon mentre naviga il suo percorso futuro. L'azienda . L'azienda crede che FRUT servirà come “espressione a biglietto unico” degli aspetti della piattaforma e dell'hardware dell'intelligenza artificiale. Questo significa semplicemente che gli investitori ottengono accesso all'infrastruttura AI con un prodotto, invece di mescolare diversi produttori di chip e nomi di piattaforme. la scorsa settimana ha annunciato di essere in partnership con Alphabet per accedere a 1 milione di dollari di TPU personalizzati di Google (Tensor Processing Units). L'azienda di AI ha rivelato che l'accordo vale decine di miliardi di dollari, sebbene non siano stati condivisi dettagli specifici. 

Anthropic ha sottolineato di muoversi a una velocità vertiginosa e di bruciare mucchi di denaro per tenere il passo con gli altri giganti dell'AI. Il suo chatbot Claude alimenta già oltre 300.000 aziende, un aumento di 300 volte negli ultimi due anni. I grandi clienti enterprise, ciascuno dei quali genera oltre 100.000 dollari di ricavi annuali, sono aumentati quasi di 7 volte in un anno. Nel frattempo, il Claude Code dell'azienda ha generato 500 milioni di dollari di ricavi annualizzati nelle sue prime otto settimane. 

Prasad Kalyanaraman, Vice President dei Servizi di Infrastruttura presso AWS, ritiene che sia fondamentale costruire l'insieme corretto di capacità che i fornitori di modelli desiderano. Ha aggiunto che controllare lo stack dagli strati inferiori dell'infrastruttura è altrettanto critico.