La demanda en aumento de la IA generativa ejerce presión sobre los centros de datos

El ascenso meteórico de la IA generativa, ejemplificado por el éxito de ChatGPT, ha traído una era de demanda sin precedentes para los centros de datos. Sin embargo, este aumento en la demanda tiene un costo, ya que los centros de datos luchan con la necesidad de una potencia de cálculo extensiva y mejoras de infraestructura para acomodar el apetito implacable por la IA generativa.

La IA generativa, aunque transformadora, es una operación intensiva en capital que demanda una potencia de cálculo sustancial. El aumento en la demanda de aplicaciones de IA generativa ha incrementado significativamente el costo de la infraestructura, presentando un desafío para los operadores de centros de datos y, posteriormente, para los clientes.

La demanda supera la oferta: Una lucha por el espacio y los costos

JLL, una firma inmobiliaria especializada en propiedad comercial y gestión de inversiones, ha identificado una brecha sustancial entre la demanda y la oferta de espacio de colocalización en América del Norte. Este déficit ha resultado en un aumento significativo de los costos para los clientes, con un aumento notable de hasta el 30 %.

El informe señala que los principales proveedores de servicios en la nube se están expandiendo rápidamente para apoyar los requisitos de IA, impulsando la necesidad de más potencia de cálculo. Esta expansión ha hecho cada vez más difícil encontrar espacio y energía adecuados para requisitos más pequeños en varios mercados.

Aumento de arrendamientos en 2023 y cumple con las necesidades de desarrollo de IA

El segundo trimestre de 2023 fue testigo de un aumento sustancial en las actividades de arrendamiento impulsado por la demanda de instalaciones de centros de datos de mayor densidad, principalmente para apoyar el desarrollo de IA. Este aumento subraya la creciente importancia de los centros de datos para cumplir con los requisitos computacionales de la IA generativa.

El informe de JLL se alinea con las proyecciones globales sobre el impacto de la IA generativa en los centros de datos. La firma de investigación Tirias Research pronostica que la demanda de infraestructura de centros de datos para apoyar la IA generativa podría superar los 76.000 millones de dólares para 2028, más del doble del costo actual estimado de Amazon Web Services (AWS), un jugador prominente en el mercado de servicios de infraestructura en la nube.

Los arrendamientos de centros de datos en niveles récord

A principios de este año, un estudio de TD Cowen destacó “niveles récord” de arrendamientos de centros de datos a medida que los proveedores de escala hipersalarial expandían su capacidad para acomodar el desarrollo de IA. La respuesta de la industria a un “tsunami de demanda de IA” tensionó a algunos proveedores de servicios, desafiando su capacidad para mantener el ritmo con los requisitos de los clientes de escala hipersalarial.

La necesidad de una renovación de infraestructura

Los centros de datos ahora tienen la tarea de mejorar la eficiencia y adaptar la infraestructura para acomodar clústeres de alta densidad de potencia. Esta renovación abarca cambios en las capacidades de refrigeración y el consumo de energía, abordando las demandas crecientes de la IA generativa.

El aumento en el uso de servidores de IA también ha planteado preocupaciones sobre el consumo de agua y energía. Los centros de datos están consumiendo volúmenes sustanciales de agua para enfriar los servidores de IA generativa, contribuyendo a las preocupaciones ambientales. Por ejemplo, Microsoft reportó un aumento del 35 % en el consumo de agua en sus centros de datos en 2022 en comparación con el año anterior.

Cumplir con las demandas de clústeres de alta densidad de potencia

Algunos centros de datos están respondiendo al desafío aumentando la densidad de clústeres a 50-100 KW por rack, una desviación significativa de las demandas actuales de los hiperscaladores. Muchos proveedores de colocalización han aumentado el voltaje entregado al piso para reducir los costos iniciales de entrega de energía para clústeres de alta densidad.

Mientras que la demanda relacionada con la IA generativa ejerce presión sobre los centros de datos, la industria está presenciando implicaciones positivas, especialmente en Europa y el Reino Unido. El aumento en la demanda de Computación de Alto Rendimiento (HPC), IA y tecnologías impulsadas por GPU está impulsando el desarrollo de nuevos centros de datos Tier 2.

Esta ola de innovación está impulsando un rediseño y reingeniería integral de la capacidad de los centros de datos para acomodar la computación de alta densidad. Las innovaciones incluyen el despliegue de sistemas de alta densidad y preconfigurados como el SuperPOD de Nvidia, una mayor adopción de refrigeración líquida y la demanda continua de capacidad de colocalización ultra eficiente energéticamente impulsada por energía 100 % renovable.

Equilibrar el enfoque en la IA generativa con el acceso de los clientes

Mientras que el enfoque en el desarrollo de IA generativa está remodelando la infraestructura de los centros de datos, existen preocupaciones sobre el acceso a largo plazo para los clientes con necesidades operativas más allá del desarrollo de IA. La industria debe encontrar un equilibrio para asegurar que todos los clientes puedan acceder a los servicios de colocalización sin restricciones.

El aumento en la demanda de la IA generativa ha remodelado el paisaje de los centros de datos, impulsando mejoras de infraestructura, costos en aumento y consideraciones ambientales. A medida que los centros de datos se adaptan a la era de la IA, deben navegar estos desafíos mientras permanecen accesibles para una amplia gama de clientes con necesidades diversas.