Las GPUs H100 de NVIDIA dominan el benchmark de IA generativa de MLPerf

Las GPUs H100 Tensor Core de NVIDIA han establecido un nuevo estándar para el rendimiento de la IA generativa en el debut del benchmark MLPerf. El benchmark reveló que las GPUs H100 superaron a todos los demás competidores en las ocho pruebas, incluida la desafiante prueba para IA generativa. Las GPUs demostraron su excelencia tanto por acelerador como a escala en servidores masivos, ofreciendo un rendimiento superior para modelos de lenguaje grandes (LLM) que impulsan la IA generativa.

Escalabilidad inigualable y rendimiento a escala

Se registró un logro notable en un clúster de 3.584 GPUs H100, co-desarrollado por la startup Inflection AI y operado por el proveedor de servicios en la nube CoreWeave. Este sistema completó un benchmark de entrenamiento masivo basado en GPT-3 en menos de once minutos. El CTO de CoreWeave, Brian Venturo, enfatizó el gran rendimiento que disfrutan sus clientes, gracias a las miles de GPUs H100 en sus redes InfiniBand rápidas y de baja latencia.

Inflection AI aprovechó el rendimiento excepcional de las GPUs H100 para construir su LLM avanzado, que impulsa su primera IA personal llamada Pi (inteligencia personal). La empresa planea crear IAs personales con las que los usuarios puedan interactuar de formas simples y naturales. Mustafa Suleyman, CEO de Inflection AI, destacó que cualquiera puede experimentar el poder de una IA personal hoy en día basado en su modelo de lenguaje grande de última generación entrenado en la potente red de GPUs H100 de CoreWeave.

Los benchmarks MLPerf reafirmaron el rendimiento excepcional de las GPUs H100. Lograron el mayor rendimiento en todos los benchmarks, incluidos modelos de lenguaje grandes, recomendadores, visión por computadora, imágenes médicas y reconocimiento de voz. Las GPUs H100 fueron los únicos chips en ejecutar las ocho pruebas, demostrando la versatilidad de la plataforma NVIDIA AI.

Los benchmarks también mostraron la excelencia de las GPUs H100 cuando se ejecutan a escala. En cada prueba MLPerf, las GPUs H100 establecieron nuevos récords de rendimiento para el entrenamiento de IA. Las optimizaciones en toda la pila tecnológica permitieron un escalado de rendimiento casi lineal, incluso a medida que las presentaciones escalaban de cientos a miles de GPUs H100. El rendimiento en la nube de CoreWeave reflejó el rendimiento logrado por la supercomputadora de IA de NVIDIA en un centro de datos local, destacando las capacidades de red de baja latencia de la red InfiniBand Quantum-2 de NVIDIA.

Amplio ecosistema y reconocimiento de la industria

MLPerf actualizó su benchmark para sistemas de recomendación, y NVIDIA fue la única empresa en presentar resultados en el benchmark mejorado. El amplio ecosistema de NVIDIA AI se mostró en esta ronda, con presentaciones de casi una docena de empresas, incluidos grandes fabricantes de sistemas como ASUS, Dell Technologies, GIGABYTE, Lenovo y QCT. Este nivel de participación tranquiliza a los usuarios de que pueden esperar un excelente rendimiento de NVIDIA AI, ya sea en la nube o en sus propios centros de datos.

El compromiso de NVIDIA con el rendimiento en todas las cargas de trabajo es evidente a través de su participación en MLPerf. Los benchmarks cubren varias cargas de trabajo, incluida la visión por computadora, la traducción y el aprendizaje por refuerzo, la IA generativa y los sistemas de recomendación. Los usuarios pueden confiar en los resultados de MLPerf para tomar decisiones de compra informadas, ya que las pruebas son transparentes y objetivas, respaldadas por un amplio grupo de líderes de la industria.

Impulsando la eficiencia energética y la accesibilidad del software

También se enfatizó la importancia de la eficiencia energética para el rendimiento de la IA. Las GPUs de NVIDIA en centros de datos acelerados permiten aumentar la eficiencia al usar menos nodos de servidor, reduciendo el espacio del rack y el consumo de energía. La red acelerada aumenta aún más la eficiencia y el rendimiento, mientras que las optimizaciones de software continuas aportan ganancias adicionales en el mismo hardware. El rendimiento eficiente energéticamente no solo beneficia al medio ambiente, sino que también ayuda a las organizaciones a acelerar el tiempo de comercialización y desarrollar aplicaciones avanzadas.

NVIDIA AI Enterprise, la capa de software de la plataforma NVIDIA AI, proporciona un rendimiento optimizado en la infraestructura de computación acelerada líder. Ofrece soporte, seguridad y confiabilidad de nivel empresarial para ejecutar IA en centros de datos corporativos. Cualquier persona interesada en utilizar el poder de la tecnología AI de NVIDIA puede acceder a estos hallazgos de primera clase porque el software utilizado para los benchmarks MLPerf está disponible a través del repositorio MLPerf.