NVIDIA está invadiendo el territorio de Intel y AMD

El 31 de mayo, NVIDIA anunció la producción completa de su CPU Vera, posicionando el chip de 88 núcleos como el primer procesador de la industria de centros de datos diseñado específicamente para cargas de trabajo de agentes de IA. Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance y CoreWeave están entre los primeros adoptantes que planean implementaciones, según el comunicado de prensa de la empresa.

El chip representa el empuje más agresivo de NVIDIA hasta ahora más allá de las GPUs y hacia el mercado de CPUs que Intel y AMD han dominado durante décadas. Donde Grace, la anterior CPU de servidor basada en ARM de NVIDIA, envió aproximadamente 2.5 millones de unidades hasta la fecha, Vera introduce una arquitectura de núcleo totalmente personalizada llamada Olympus en lugar de licenciar un diseño de núcleo ARM estándar, según Tom’s Hardware.

Por qué las cargas de trabajo de Agentes de IA están redefiniendo la demanda de CPU en los centros de datos

La economía de los centros de datos para inteligencia artificial ha cambiado. A medida que los modelos avanzan desde responder preguntas hasta ejecutar código, invocar programas y coordinar tareas complejas, la CPU se convierte en un problema clave. Jensen Huang, CEO de NVIDIA, describió el potencial directamente: “Los agentes de IA serán los mayores usuarios de computación… Vera es la primera CPU diseñada para ese futuro, construida para ejecutar IA agencial a escala hipersuper con un rendimiento, eficiencia y programabilidad extraordinarios.”

Las especificaciones de Vera ilustran su potencial. Cuenta con 88 núcleos Olympus, junto con la tecnología de Multithreading Espacial de la compañía, complementada por un sistema de memoria LPDDR5X, entregando hasta 1.2 TB por segundo de ancho de banda mientras consume menos de 30 vatios de energía de memoria. Según el fabricante, Vera puede ejecutar tareas a 1.8 veces la velocidad de los procesadores x86 cuando trabaja en aplicaciones de IA agencial como compilación de código, ejecución de Python, Java y manipulación de bases de datos.

Las pruebas independientes de Phoronix, utilizando benchmarks seleccionados por NVIDIA, mostraron que Vera compila un kernel de Linux en 20 segundos (en una configuración de socket único), lo que da un aumento de rendimiento del 10% sobre el EPYC 9575F de AMD operando a 5.0 GHz, según lo afirmado en el blog de NVIDIA. El fundador de Phoronix, Michael Larabel, dijo que Vera “termina dando un golpe contundente con competitividad frente a las CPUs x86_64 de Intel/AMD que nunca he visto en ningún otro procesador ARM o no x86_64.”

Sin embargo, esto viene con una advertencia ya que los benchmarks utilizados anteriormente fueron seleccionados y realizados por la propia NVIDIA. No se ha realizado ninguna prueba independiente hasta ahora.

Adopción temprana del mercado de laboratorios de IA, hiperscaladores y jugadores empresariales

La lista de clientes de Vera incluye instituciones de investigación de IA, hiperscaladores e infraestructura financiera. En declaraciones proporcionadas por la presidenta de NYSE, Lynn Martin, el intercambio, que maneja más de 1.1 billones de mensajes por día, tiene la intención de utilizar Vera junto con Redpanda y Hewlett Packard Enterprise para aumentar la capacidad y reducir la latencia.

Según James Bradbury, el jefe de computación en Anthropic, la firma está evaluando Vera para cargas de trabajo agenciales intensivas en CPU. “Escalar la computación es un acelerador importante para el crecimiento de los modelos”, dijo Bradbury. “Estamos emocionados de ver a Vera emerger como una parte prometedora del ecosistema al resolver cargas de trabajo agenciales.”

Oracle Cloud Infrastructure planea convertirse en el primer hiperscaler en utilizar Vera, con el vicepresidente ejecutivo de OCI, Mahesh Thiagarajan, llamándolo “la próxima frontera en la supercomputación de IA a escala hipersuper”.

En el lado de la fabricación de hardware, Dell Technologies, HPE, Lenovo y Supermicro ofrecerán Vera en configuraciones de servidor CPU independientes. NVIDIA describió esto como “la primera opción de CPU estándar más allá de x86” de los principales OEM. Los fabricantes de Taiwán, incluidos ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology y Wistron, también están construyendo sistemas.

Integración más amplia en la pila de infraestructura de IA de NVIDIA

Vera encaja perfectamente en la visión del ecosistema de fábrica de IA de full-stack de NVIDIA. Vera funciona como el host CPU de la plataforma Vera Rubin, que se empareja con las GPUs Rubin usando NVLink-C2G de segunda generación con un ancho de banda de 1.8TB/s. Además, Vera forma parte de la plataforma BlueField-4 STX en términos de red y almacenamiento. Según Dealroom, Ian Buck, el ejecutivo de NVIDIA, entregó las unidades iniciales de Vera a clientes como Anthropic en San Francisco y SpaceXAI en Palo Alto.

La cadena de suministro de memoria ha reaccionado inmediatamente. DIGITIMES afirma que el movimiento de NVIDIA de comercializar Vera como un chip separado crea demanda de DRAM de bajo consumo, colocando así más presión en la cadena de suministro existente de chips de memoria.

Qué observar a medida que Vera entra en la fase de implementación

Los sistemas Vera se envían a socios y proveedores de nube en el tercer trimestre de este año. Sin embargo, algunos problemas que deben considerarse son si los resultados de los benchmarks independientes contra una variedad de aplicaciones generales respaldan la afirmación de rendimiento de NVIDIA y si el chip personalizado Olympus puede rivalizar con la capacidad del software x86 para la compatibilidad de aplicaciones. Ahora mismo, una cosa está clara: NVIDIA ya no está contenta con poseer solo el acelerador. Quiere toda la pila de centros de datos de IA.