El benchmark de MLCommons revela que Nvidia e Intel lideran el rendimiento del hardware de IA

En una reciente publicación de los resultados del consorcio MLCommons, una organización independientedent a la evaluación de chipsets de IA, se ha revelado el rendimiento de diversos dispositivos de hardware para IA. Los resultados muestran que los chips avanzados de Nvidia se han posicionado como los de mejor rendimiento, seguidos de cerca por el hardware de Intel.

El dominio de Nvidia en el rendimiento del hardware de IA

En el panorama de la IA, en constante evolución, el rendimiento del hardware es un factor crítico para alcanzar el éxito. Nvidia, un actor destacado en la industria de la IA, demostró su destreza en la última ronda de pruebas realizada por MLCommons. Dos de los chips más avanzados de Nvidia, el GH200 Grace Hopper Superchip y el sistema HGX 100, mostraron resultados notables en múltiples pruebas de rendimiento como parte de la evaluación MLPerf.

El superchip GH200 Grace Hopper de Nvidia, que combina una GPU Hopper con una CPU Grace en un solo chip, mostró capacidades excepcionales. Destacó en términos de memoria, ancho de banda y optimización de tareas entre la GPU y una CPU basada en ARM. Este innovador enfoque resultó en una mejora promedio del rendimiento de aproximadamente el 17 % en comparación con el sistema HGX 100.

La evaluación exhaustiva abarcó diversas tareas de IA, como visión artificial, reconocimiento de voz, imágenes médicas y cargas de trabajo más complejas, como sistemas de inferencia y recomendación de Modelos de Lenguaje Largos (LLM). El hardware de Nvidia superó constantemente a sus competidores, reafirmando su posición dominante en la industria de la IA.

Habana Gaudi2 de Intel deja su huella

A través de su filial Habana Labs, Intel Corporation posicionó sus aceleradores Habana Gaudi2 como competidores formidables en el sector del hardware de IA. A pesar del sólidotron, el sistema Gaudi2 demostró sus capacidades al quedar en un sorprendente segundo lugar. Los resultados indicaron que el sistema Gaudi2 quedó a tan solo un 10 % del rendimiento de la oferta de Nvidia.

La ventaja de Intel reside en su nodo de fabricación de siete nanómetros, que, si bien es ligeramente más grande que la GPU Hopper de cinco nanómetros de Nvidia, promete futuras mejoras. Se espera que la próxima introducción de la cuantificación de precisión FP8 duplique el rendimiento de las tareas de inferencia de IA de Intel. Además, se rumorea que Intel está trabajando en un chipset Gaudi3 de 5 nm, lo que aumenta la expectación en el sector del hardware de IA.

Intel también destacó el precio competitivo de su chip Habana Gaudi2, posicionándolo como una alternativa rentable a las soluciones de Nvidia. Sin embargo, aún no se han revelado los detalles específicos del precio.

El factor de eficiencia en el consumo de energía

La eficiencia en el consumo energético es un factor clave para alcanzar la excelencia en hardware de IA. Qualcomm Inc., otro actor destacado en este sector, demostró un rendimiento sólido con su chipset Qualcomm Cloud AI100. Lo que distingue a Qualcomm es su uso eficiente de la energía, superando a sus competidores en este aspecto. Los resultados subrayan el compromiso de la compañía con la sostenibilidad en el hardware de IA.

El impresionante rendimiento de Qualcomm es particularmente notable dado su menor consumo de energía que otros competidores, lo que lo convierte en una opcióntracpara las organizaciones enfocadas en reducir el uso de energía en la infraestructura de IA.

Próximos desarrollos en hardware de IA

Nvidia e Intel se comprometen a seguir mejorando sus ofertas de hardware de IA. Nvidia planea lanzar una actualización de software que promete duplicar el rendimiento de inferencia de IA de su superchip GH200 Grace Hopper, consolidando así su liderazgo.

Intel tampoco se duerme en los laureles; se espera que la próxima actualización de cuantificación de precisión FP8 para el chip Habana Gaudi2 mejore significativamente sus capacidades de inferencia de IA. Además, el rumoreado chipset Gaudi3 de 5 nm genera expectación, ya que podría aportar más innovación al mercado.

Otros actores clave en el campo

Si bien Nvidia e Intel acapararon la atención, otros actores importantes de la industria de la IA también mostraron sus capacidades. Google LLC presentó un avance de sus últimas Unidades de Procesamiento Tensorial (TPU), pero no alcanzaron los niveles de rendimiento de Nvidia. No obstante, Google sigue siendo una fuerza formidable en la investigación y el desarrollo de IA.

Los resultados recientes de las pruebas de referencia de MLCommons ofrecen información valiosa sobre el estado actual del rendimiento del hardware de IA. El dominio de Nvidia, seguido de cerca por la oferta competitiva de Intel, subraya el compromiso de la industria con el avance de las capacidades del hardware de IA. Con consideraciones de eficiencia energética y las próximas innovaciones, el panorama del hardware de IA continúa evolucionando, prometiendo un rendimiento y una eficiencia aún mayores en el futuro próximo.