Les GPU H100 de NVIDIA dominent le benchmark MLPerf pour l'IA générative

Les GPU Tensor Core H100 de NVIDIA ont établi une nouvelle norme pour la performance de l'IA générative dans le benchmark MLPerf inaugural. Le benchmark a révélé que les GPU H100 ont surpassé tous les autres concurrents sur les huit tests, y compris le test exigeant pour l'IA générative. Les GPU ont démontré leur excellence, tant par accélérateur qu'à l'échelle dans des serveurs massifs, offrant des performances de pointe pour les grands modèles de langage (LLM) qui alimentent l'IA générative.

Scalabilité inégalée et performance à grande échelle

Une réalisation notable a été enregistrée sur un cluster de 3 584 GPU H100, co-développé par la startup Inflection AI et exploité par le fournisseur de services cloud CoreWeave. Ce système a terminé un benchmark d'entraînement massif basé sur GPT-3 en moins de onze minutes. Brian Venturo, CTO de CoreWeave, a souligné les excellentes performances dont jouissent leurs clients, grâce aux milliers de GPU H100 sur leurs réseaux InfiniBand rapides à faible latence.

Inflection AI a tiré parti des performances exceptionnelles des GPU H100 pour construire son LLM avancé, qui alimente son premier AI personnel appelé Pi (intelligence personnelle). L'entreprise prévoit de créer des AI personnels avec lesquels les utilisateurs peuvent interagir de manière simple et naturelle. Mustafa Suleyman, PDG d'Inflection AI, a souligné que quiconque peut aujourd'hui expérimenter la puissance d'un AI personnel basé sur leur modèle de langage de pointe entraîné sur le puissant réseau de GPU H100 de CoreWeave.

Les benchmarks MLPerf ont réaffirmé les performances exceptionnelles des GPU H100. Ils ont atteint les performances les plus élevées sur tous les benchmarks, y compris les grands modèles de langage, les recommandateurs, la vision par ordinateur, l'imagerie médicale et la reconnaissance vocale. Les GPU H100 étaient les seuls puces à exécuter les huit tests, démontrant la polyvalence de la plateforme AI de NVIDIA.

Les benchmarks ont également mis en évidence l'excellence des GPU H100 lorsqu'ils fonctionnent à grande échelle. Sur chaque test MLPerf, les GPU H100 ont établi de nouveaux records de performance pour l'entraînement de l'IA. Les optimisations à travers la pile technologique ont permis une mise à l'échelle des performances quasi linéaire, même lorsque les soumissions sont passées de centaines à des milliers de GPU H100. Les performances cloud de CoreWeave ont reflété les performances obtenues par l'ordinateur super AI de NVIDIA dans un centre de données local, mettant en évidence les capacités de réseau à faible latence d'InfiniBand Quantum-2 de NVIDIA.

Écosystème large et reconnaissance de l'industrie

MLPerf a mis à jour son benchmark pour les systèmes de recommandation, et NVIDIA était la seule entreprise à soumettre des résultats sur le benchmark amélioré. Le large écosystème de NVIDIA AI a été mis en valeur lors de ce tour, avec des soumissions provenant de près d'une douzaine d'entreprises, y compris de grands constructeurs de systèmes tels qu'ASUS, Dell Technologies, GIGABYTE, Lenovo et QCT. Ce niveau de participation rassure les utilisateurs sur le fait qu'ils peuvent s'attendre à d'excellentes performances de NVIDIA AI, que ce soit dans le cloud ou dans leurs propres centres de données.

L'engagement de NVIDIA envers la performance sur tous les types de charge de travail est évident grâce à sa participation à MLPerf. Les benchmarks couvrent divers types de charge de travail, y compris la vision par ordinateur, la traduction et l'apprentissage par renforcement, l'IA générative et les systèmes de recommandation. Les utilisateurs peuvent s'appuyer sur les résultats de MLPerf pour prendre des décisions d'achat éclairées, car les tests sont transparents et objectifs, soutenus par un large groupe de leaders de l'industrie.

Stimuler l'efficacité énergétique et l'accessibilité logicielle

L'importance de l'efficacité énergétique pour la performance de l'IA a également été soulignée. Les GPU NVIDIA dans les centres de données accélérés permettent d'augmenter l'efficacité en utilisant moins de nœuds de serveur, réduisant ainsi l'espace de rack et la consommation d'énergie. Le réseau accéléré améliore encore l'efficacité et la performance, tandis que les optimisations logicielles continues apportent des gains supplémentaires sur le même matériel. La performance écoénergétique profite non seulement à l'environnement, mais aide également les organisations à accélérer le time-to-market et à développer des applications avancées.

NVIDIA AI Enterprise, la couche logicielle de la plateforme NVIDIA AI, fournit des performances optimisées sur les infrastructures de calcul accéléré de premier plan. Elle offre un support, une sécurité et une fiabilité de niveau entreprise pour l'exécution de l'IA dans les centres de données d'entreprise. Quiconque souhaite utiliser la puissance de la technologie AI de NVIDIA peut accéder à ces résultats de premier ordre, car le logiciel utilisé pour les benchmarks MLPerf est disponible via le référentiel MLPerf.