OpenAI está esbozando lo que parece ser el modelo para una civilización construida por máquinas, alimentada por sus propios chips, su propia infraestructura y suficiente electricidad para iluminar dos ciudades de Nueva York.
La visión masiva de la ciudad con inteligencia artificial de la empresa se basa en una visión que es casi imposible de llevar a cabo: diseñar y producir miles de millones de chips personalizados en asociación con Broadcom para respaldar lo que el director ejecutivo Sam Altman llama la "columna vertebral informática" del futuro.
Sam dijo al Wall Street Journal que brindar los servicios de inteligencia artificial que la gente demanda requerirá al menos un chip específico de IA por usuario, una proyección alucinante que llega a los miles de millones.
Ali Farhadi, director del Instituto Allen para la IA, respaldó esa magnitud, afirmando que si la IA reemplaza la mano de obra humana al ritmo prometido, "el mundo necesitará tantos chips de IA como chips convencionales". Para OpenAI, se trata de control: sobre los costos, sobre el consumo de energía y sobre la supervivencia a largo plazo de sus modelos a medida que la demanda se dispara.
OpenAI conecta a Broadcom, Nvidia y gigantes de la memoria para la computación de próxima generación
Por supuesto, Nvidia todavía domina el espacio de entrenamiento de IA, con aproximadamente el 70 % de participación de mercado, por lo que OpenAI debe seguir usando sus GPU para el entrenamiento de modelos.
Pero OpenAI ahora está dividiendo el proceso: el entrenamiento se realiza en Nvidia, la inferencia (el proceso de entregar respuestas a los usuarios) se traslada al silicio personalizado de Broadcom. Este diseño de dostracpodría reducir los gastos y el consumo de energía a una escala donde cada punto porcentual importa.
Jordan Nanos, investigador de semiconductores en SemiAnalysis, afirmó que Broadcom está ayudando a OpenAI a "reinventar la fórmula tradicional de los chips de IA". Estos chips no serán genéricos. Se están diseñando específicamente para los modelos de OpenAI, que dependen de memoria de alto ancho de banda, suministrada por Samsung y SK Hynix, dos empresas con las que la compañía se asoció recientemente.
Ese tipo de memoria permite una transferencia de datos más rápida entre procesadores, algo fundamental para sistemas como Pulse de OpenAI, un agente de IA que escanea la web a diario para informar a los usuarios. Pulse consume tanta potencia de procesamiento que Sam afirmó que está limitado a quienes pagan $200 al mes por el plan Pro.
Esta dependencia de la memoria de alto ancho de banda está directamente relacionada con el funcionamiento de los modelos de OpenAI. Las primeras redes neuronales eran densas y activaban grandes secciones de sus sistemas para cada consulta. Las más recientes utilizan la escasez, que activa solo secciones expertas específicas.
En lugar de usar el 25% del modelo para responder una pregunta, los sistemas modernos activan una fracción del uno por ciento. Esa diferencia reduce drásticamente el consumo de energía y acelera los tiempos de respuesta. Cuando un chip se construye con esa lógica dispersa, la eficiencia se dispara, y Broadcom es quien hace posible ese hardware.
Las supercomputadoras de IA a escala de gigavatios de OpenAIdefila infraestructura
Sam ha afirmado que la capacidad de procesamiento actual de OpenAI ronda los 2 gigavatios, distribuidos en centros de datos globales. La alianza con Broadcom aspira a alcanzar los 10 gigavatios para 2030, formando así la base física de lo que los expertos denominan ciudades de IA: complejos densos de servidores, almacenamiento e interconexiones personalizadas, unidos por los chips de red Tomahawk Ultra de Broadcom.
Eso es solo una parte de la ola. En las últimas tres semanas, OpenAI ha añadido 16 gigavatios mediante nuevos acuerdos de capacidad con AMD y Nvidia, lo que eleva el total a niveles que podrían requerir una inversión de casi 1 billón de dólares.
El Memphis Colossus de xAI ya alcanzó los 1,21 gigavatios este otoño. La planta Hyperion de Meta en Luisiana cuenta con la aprobación para 2,3 gigavatios, y Mark Zuckerberg aspira a 5 gigavatios. La carrera energética de la IA es oficialmente global.
Sam describió esta transformación como "el mayor proyecto industrial conjunto de la historia", afirmando que incluso estos acuerdos son "una gota en el océano comparado con el camino que debemos recorrer". Parte de su objetivo es diversificar a los proveedores.
El campus Stargate en Abilene, Texas, que Oracle está construyendo, se centrará en el entrenamiento de IA, principalmente con chips Nvidia. El hardware de AMD gestionará las cargas de trabajo de inferencia, mientras que el silicio personalizado de Broadcom cubrirá la brecha de eficiencia.
Como lo expresó Nanos, “OpenAI está mirando hacia el futuro y tratando de asegurarse de tener acceso a un suministro suficiente de chips”
