Los chips de IA Blackwell de Nvidia pueden enfrentar más retrasos debido a problemas de sobrecalentamiento de servidores

Nvidia puede enfrentar más retrasos con sus chips de IA Blackwell, que se introdujeron a principios de este año, según informes se sobrecalientan en configuraciones de servidores, lo que genera preocupaciones.

Según The Information, hay temores de que los chips puedan crear desafíos para grandes consumidores de servicios en la nube como Meta Platforms, Google y Microsoft. Esto ocurre mientras estas gigantes tecnológicas se preparan para desarrollar centros de datos que dependan de esta tecnología.

Nvidia ha solicitado un rediseño de los racks para abordar el problema

The Information informa además que el sobrecalentamiento surge de los chips colocados en racks de servidores que están diseñados para soportar hasta 72 unidades. Como parte de los esfuerzos para limitar el desafío, Nvidia ha solicitado a los proveedores que remodelen repetidamente los racks.

Los varios rediseños de los racks han generado preocupaciones entre sus clientes sobre retrasos en la instalación de nueva tecnología de centros de datos de IA.

Algunos consumidores y empleados han confirmado el problema de sobrecalentamiento con los chips de IA Blackwell.

“Nvidia está trabajando con los principales proveedores de servicios en la nube como parte integral de nuestro equipo de ingeniería y proceso”, dijo un portavoz de Nvidia a Reuters.

“Las iteraciones de ingeniería son normales y esperadas.”

Portavoz de Nvidia.

Los chips AI Blackwell se presentaron por primera vez en marzo y se suponía que llegarían al mercado en el segundo trimestre, pero enfrentaron retrasos en las entregas que afectaron posteriormente los cronogramas de implementación de los clientes.

Los chips combinan supuestamente dos componentes de silicio en una unidad destinada a funcionar veces más rápido que las versiones anteriores en tareas como la creación de respuestas de chatbots.

Según Guru Focus, con los productos de Nvidia esenciales para plataformas tecnológicas clave, este problema rastrea los intentos del gigante tecnológico de establecer su liderazgo en IA y computación en la nube.

Además, el desafío del sobrecalentamiento podría causar preguntas sobre si las necesidades crecientes de proyectos de IA intensivos en datos pueden satisfacerse.

El gigante de la fabricación de chips aún no ha revelado qué proveedores ayudan a remediar los problemas de diseño o cuándo se pueden resolver las preocupaciones de sobrecalentamiento. Los retrasos adicionales podrían influir en los planes de infraestructura de IA más amplios de clientes críticos.

El precio de Nvidia cayó en respuesta a la noticia del sobrecalentamiento

Un informe de Tom’s Hardware indicó que el lanzamiento de los chips AI Blackwell ya se había retrasado varios meses porque Nvidia estaba trabajando en un defecto de diseño que afectaba los rendimientos de producción.

Ahora, Investors informó que el precio de las acciones de Nvidia retrocedió tras los informes de que sus chips de IA Blackwell se sobrecalentaban cuando se instalaban en racks de servidores de alta capacidad.

La acción bajó un 2.9% en las operaciones pre-mercado en el mercado de valores. Sin embargo, en una base año a la fecha, la acción ha subido un 187%.

“Habíamos escuchado que los diseños de servidores aún se estaban finalizando hasta el mes pasado, pero nos sorprendería si los envíos de NVL72 se retrasan significativamente por problemas de calor (y enfriamiento)”, dijo el analista de Wedbush Securities Matt Bryson en una nota a clientes el lunes.

“Dicho esto, será un tema que preguntaremos en SC24 esta semana.”

Bryson.

SC24 es una conferencia sobre computación de alto rendimiento, redes y análisis, y tiene lugar en Atlanta. Se espera que Nvidia lance sus ganancias del tercer trimestre esta semana miércoles.

La noticia del sobrecalentamiento ha levantado más preocupaciones sobre el impacto de la IA en el consumo de energía y agua. Las GPU avanzadas supuestamente pueden ser 30 veces más rápidas que las GPU anteriores. Cuanto más poderosa es una GPU, más calor produce.

Según PCmag, ejecutar modelos de IA generativa requiere mucha energía así como agua para enfriar los servidores, lo que resulta en algunas predicciones de que los centros de datos experimentarán escasez de agua tan pronto como 2025, ya que las empresas tecnológicas no agregan electricidad a la red eléctrica tan rápido como agregan los centros de datos.