Elon Musk annuncia l'addestramento di GROK 3 a Memphis con GPU NVIDIA H100
- Elon Musk ha avviato GROK 3 a Memphis e prevede di utilizzare 100.000 GPU NVIDIA H100.
- xAI ha annullato il contratto da 10 miliardi di dollari con Oracle per sviluppare il proprio supercomputer, la cui consegna era prevista per dicembre.
- xAI ha optato per le GPU H100 invece delle imminenti H200 per mantenere il ritmo.
Elon Musk ha ufficialmente annunciato l'avvio dell'addestramento di GROK 3 presso la struttura del supercomputer di Memphis, dotata delle GPU H100 di ultima generazione di NVIDIA. La struttura, che Musk definisce "il cluster di addestramento IA più potente del mondo", ha iniziato a funzionare lunedì con l'ausilio di 100.000 GPU H100 raffreddate a liquido su un singolo fabric RDMA.
L'addestramento era programmato alle 4:20 del mattino ora locale a Memphis. Nel suo tweet successivo, Musk ha dichiarato che l'"IA più avanzata del mondo" potrebbe essere sviluppata entro dicembre di quest'anno. Musk ha anche twittato del successo su X e ha congratulato con i team di xAI, X e NVIDIA per il loro eccellente lavoro.
xAI cambia strategia e cancella l'accordo con i server Oracle
L'annuncio arriva dopo la recente cancellazione di un accordo da 10 miliardi di dollari tra xAI e Oracle per i server. Musk ha indicato che il Gigafactory of Compute di xAI, inizialmente previsto per essere operativo entro l'autunno del 2025, ha iniziato le operazioni in anticipo rispetto ai tempi previsti.
xAI aveva precedentemente esternalizzato i suoi chip IA da Oracle ma ha deciso di disimpegnarsi per sviluppare il proprio supercomputer avanzato. Il progetto ora prevede di sfruttare il potenziale delle GPU H100 all'avanguardia che costano circa $30.000 ciascuna. GROK 2 ha utilizzato 20.000 GPU e GROK 3 ha bisogno di cinque volte tante GPU per costruire un chatbot IA più sofisticato.
Leggi anche:Elon Musk cerca l'opinione pubblica su un investimento di $5 miliardi in xAI per Tesla
Questo è piuttosto sorprendente, specialmente perché NVIDIA ha appena annunciato il prossimo rilascio delle GPU H200, basate sull'architettura Hopper. La decisione di iniziare l'addestramento con le GPU H100 invece di aspettare le H200 o le forthcoming B100 e B200 basate su Blackwell. Le GPU H200, entrate in produzione di massa nel Q2, promettono significativi miglioramenti delle prestazioni, ma l'immediato focus di xAI è sfruttare l'infrastruttura H100 esistente per raggiungere i suoi ambiziosi obiettivi.
L'analista mette in dubbio l'approvvigionamento energetico per il Memphis Supercluster
Dylan Patel, esperto di IA e semiconduttori, inizialmente ha sollevato preoccupazioni sulle questioni energetiche relative all'esecuzione del Memphis Supercluster. Ha sottolineato che l'attuale fornitura della rete di 7 megawatt può sostenere solo circa 4.000 GPU. La Tennessee Valley Authority (TVA) dovrebbe fornire 50MW alla struttura come un accordo che dovrebbe essere firmato entro il 1° agosto. Tuttavia, la sottostazione necessaria per soddisfare la piena domanda di energia sarà completata solo alla fine del 2024.
Quando analizza le immagini satellitari, Patel ha notato che Musk ha impiegato 14 generatori mobili VoltaGrid, che possono produrre 2,5 megawatt ciascuno. Nel complesso, questi generatori producono 35 megawatt di elettricità. Oltre agli 8MW dalla rete, questo porta a un totale di 43MW, che è sufficiente per alimentare circa 32.000 GPU H100 con un po' di limitazione di potenza.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
