- I GPU H100 di NVIDIA ridefiniscono le prestazioni dell'AI generativa, eccellendo nel benchmark MLPerf.
- I GPU H100 dimostrano un'impressionante scalabilità e prestazioni su larga scala, abilitando una scalatura quasi lineare e risultati basati sul cloud.
- I GPU H100 di NVIDIA ottengono il riconoscimento del settore, supportati da un ampio ecosistema e prestazioni eccezionali in carichi di lavoro diversificati.
Le GPU Tensor Core H100 di NVIDIA hanno stabilito un nuovo standard per le prestazioni di generative AI nel debutto del benchmark MLPerf. Il benchmark ha rivelato che le GPU H100 hanno superato tutti gli altri concorrenti in tutti e otto i test, incluso il test impegnativo per generative AI. Le GPU hanno dimostrato la loro eccellenza sia per acceleratore che su larga scala in server massicci, fornendo le migliori prestazioni per i modelli linguistici di grandi dimensioni (LLM) che alimentano generative AI.
Scalabilità e prestazioni su larga scala senza pari
Un risultato notevole è stato registrato su un cluster di 3.584 GPU H100, co-sviluppato dalla startup Inflection AI e gestito dal provider di servizi cloud CoreWeave. Questo sistema ha completato un benchmark di addestramento massiccio basato su GPT-3 in meno di undici minuti. Il CTO di CoreWeave, Brian Venturo, ha sottolineato le grandi prestazioni che i loro clienti godono, grazie alle migliaia di GPU H100 sulle loro reti InfiniBand veloci e a bassa latenza.
Inflection AI ha sfruttato le prestazioni eccezionali delle GPU H100 per costruire il suo LLM avanzato, che alimenta il suo primo AI personale chiamato Pi (personal intelligence). L'azienda prevede di creare AI personali con cui gli utenti possono interagire in modi semplici e naturali. Mustafa Suleyman, CEO di Inflection AI, ha sottolineato che chiunque può sperimentare il potere di un AI personale oggi basato sul loro modello linguistico di grandi dimensioni all'avanguardia addestrato sulla potente rete di GPU H100 di CoreWeave.
I benchmark MLPerf hanno riaffermato le prestazioni eccezionali delle GPU H100. Hanno raggiunto le prestazioni più elevate in tutti i benchmark, inclusi i modelli linguistici di grandi dimensioni, i sistemi di raccomandazione, la visione artificiale, l'imaging medico e il riconoscimento vocale. Le GPU H100 sono state gli unici chip a eseguire tutti e otto i test, dimostrando la versatilità della piattaforma AI di NVIDIA.
I benchmark hanno anche mostrato l'eccellenza delle GPU H100 quando eseguite su larga scala. In ogni test MLPerf, le GPU H100 hanno stabilito nuovi record di prestazioni per l'addestramento AI. Le ottimizzazioni attraverso lo stack tecnologico hanno consentito una scalabilità delle prestazioni quasi lineare, anche quando le sottomissioni sono passate da centinaia a migliaia di GPU H100. Le prestazioni cloud di CoreWeave hanno rispecchiato le prestazioni ottenute dal supercomputer AI di NVIDIA in un data center locale, evidenziando le capacità di networking a bassa latenza del networking InfiniBand Quantum-2 di NVIDIA.
Ecosistema ampio e riconoscimento del settore
MLPerf ha aggiornato il suo benchmark per i sistemi di raccomandazione, e NVIDIA è stata l'unica azienda a presentare risultati sul benchmark migliorato. Il vasto ecosistema di NVIDIA AI è stato mostrato in questo round, con sottomissioni da quasi una dozzina di aziende, tra cui importanti produttori di sistemi come ASUS, Dell Technologies, GIGABYTE, Lenovo e QCT. Questo livello di partecipazione rassicura gli utenti sul fatto che possono aspettarsi eccellenti prestazioni da NVIDIA AI, sia nel cloud che nei loro data center.
L'impegno di NVIDIA per le prestazioni in tutti i carichi di lavoro è evidente attraverso la sua partecipazione a MLPerf. I benchmark coprono vari carichi di lavoro, tra cui visione artificiale, traduzione e apprendimento per rinforzo, generative AI e sistemi di raccomandazione. Gli utenti possono fare affidamento sui risultati MLPerf per prendere decisioni di acquisto informate, poiché i test sono trasparenti e obiettivi, supportati da un ampio gruppo di leader del settore.
Guidare l'efficienza energetica e l'accessibilità del software
L'importanza dell'efficienza energetica per le prestazioni AI è stata anche sottolineata. Le GPU NVIDIA nei data center accelerati consentono un aumento dell'efficienza utilizzando meno nodi server, riducendo lo spazio del rack e il consumo energetico. Il networking accelerato aumenta ulteriormente l'efficienza e le prestazioni, mentre le ottimizzazioni software continue apportano ulteriori guadagni sulla stessa hardware. Le prestazioni energeticamente efficienti non solo beneficiano l'ambiente, ma aiutano anche le organizzazioni ad accelerare il time-to-market e a sviluppare applicazioni avanzate.
NVIDIA AI Enterprise, il livello software della piattaforma NVIDIA AI, fornisce prestazioni ottimizzate sulle principali infrastrutture di calcolo accelerato. Offre supporto, sicurezza e affidabilità di livello aziendale per l'esecuzione di AI nei data center aziendali. Chiunque sia interessato a utilizzare il potere della tecnologia AI di NVIDIA può accedere a questi risultati di prim'ordine perché il software utilizzato per i benchmark MLPerf è disponibile tramite il repository MLPerf.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Aamir Sheikh
Aamir è un giornalista tecnologico con quasi sei anni di esperienza nei settori delle criptovalute e della tecnologia. Si è laureato presso l'Università MAJ con un MBA in Finanza e Marketing. Attualmente lavora per Cryptopolitan, dove si occupa delle ultime novità sui mercati delle criptovalute e delle previsioni sui prezzi.
