Nvidia desafía a Intel y AMD en el mercado de CPUs de 200miles de millones de dólares

Nvidia se ha comprometido a entrar en el mercado de las CPUs para centros de datos, un dominio que anteriormente estaba dominado por empresas como Intel y AMD y que actualmente tiene un valor de 200.000 millones de dólares. La compañía ya ha adquirido a su primer cliente en forma de Perplexity, que estará entre las primeras empresas en adoptar el nuevo procesador de Nvidia, Vera. Este es un movimiento importante destinado a ampliar las capacidades de las operaciones de Nvidia más allá de sus reconocidas GPUs.

Las razones en juego son principalmente económicas. La afirmación de Nvidia, publicada en la entrada del blog corporativo de Ian Buck el 7 de julio, se refiere al hecho de que el procesador que maneja la operación de un modelo de IA —ejecutando varias aplicaciones, ejecutando código, transfiriendo datos, etc.— es actualmente un cuello de botella que hace que las GPUs caras permanezcan inactivas mientras su capacidad de procesamiento se subutiliza. Además, Reuters mencionó que

Perplexity va a implementar Vera como uno de los primeros proyectos de la nueva plataforma de CPU de Nvidia. El vicepresidente Nate Kupp había declarado que el procesador era “un ajuste perfecto” para las necesidades de la empresa y que hacía que sus funciones fueran 1,5 veces más rápidas que las de las CPUs tradicionales durante las pruebas internas. Aunque Reuters informó de la decisión de adoptar Vera y del benchmark mencionado anteriormente, cabe señalar que las pruebas fueron realizadas por Perplexity y Nvidia, no por ninguna autoridad independiente.

Perplexity ejecutó uno de sus trabajos diarios de agente en el chip, clonando un repositorio de código y ejecutando su suite de pruebas dentro de entornos aislados. Según Nvidia, Vera terminó ese trabajo aproximadamente 1,5 veces más rápido que un procesador de servidor x86 comparable y activó entornos aislados en paralelo hasta 1,9 veces más rápido. La empresa de búsqueda de IA ahora planea incorporar Vera en su próximo sistema de producción.

Por qué la CPU se convirtió en el cuello de botella

La razón por la que la CPU se ha convertido en el cuello de botella de la tecnología AI se remonta al patrón de funcionamiento de los agentes de IA. A diferencia de los chatbots tradicionales que solo se centran en generar respuestas, los agentes de IA son responsables de la ejecución de herramientas, ejecución de código, realización de consultas, recuperación de documentos y evaluación de resultados antes de realizar cualquier otro movimiento. El proceso es secuencial, por lo que el rendimiento de una CPU de un solo hilo se vuelve esencial para la ejecución oportuna de las respuestas.

La industria de la IA está prestando cada vez más atención a este cambio. Con la transición de la inteligencia artificial desde la producción de texto hacia la realización de funciones múltiples complejas por sí misma, se ha vuelto necesario que las CPUs realicen orquestación, manipulación y transferencia de información antes de que la GPU realice cualquier inferencia.

Según Nvidia, para aprovechar al máximo las GPUs, se requerirían CPUs mucho más rápidas en un centro de datos donde se necesitan que trabajen simultáneamente miles de agentes de inteligencia artificial. De manera similar, los procesadores tradicionales se desarrollaron mucho antes de que apareciera la tecnología que implica agentes de IA siempre activos, creando una oportunidad para CPUs optimizadas específicamente para estas cargas de trabajo.

Un tiro directo a Intel y AMD

Nvidia tampoco oculta sus intenciones. Durante Computex el 2 de junio en Taipéi, Jensen Huang, director ejecutivo de la compañía, indicó que el establecimiento de una división de CPUs para computadoras y servidores forma parte de sus planes para "reinventar" el mercado de las CPUs. Muchos expertos en el campo coinciden en que tal iniciativa coloca a Nvidia en la categoría de competidores de Intel y AMD. Según Reuters, se prevé que Nvidia genere 20.000 millones de dólares con sus CPUs Vera durante el año fiscal actual. Al mismo tiempo, la compañía afirma que el potencial total del mercado de CPUs vale 200.000 millones de dólares.

Esta esperanza de una posición competitiva llega cuando Nvidia quiere situarse no solo en el área de los aceleradores de IA, sino también fuera de este ámbito limitado. El mercado global de CPUs para servidores ha sido históricamente atendido por Intel y AMD con la ayuda de procesadores x86. Sin embargo, los procesadores basados en Arm han encontrado su camino en el mercado de la computación en la nube a escala hiperscalar, donde las empresas realizan algunas optimizaciones para cargas de trabajo específicas en lugar de tener que utilizar procesadores de propósito general.

Esta competencia llega mientras los incumbentes luchan. Las acciones de Nvidia cerraron a 196,93 dólares el 7 de julio, lo que supuso un aumento del 0,7%, según datos de Yahoo Finance. AMD y Intel descendieron un 6,5% y un 9,7%, respectivamente. Pero los analistas han atribuido generalmente estas caídas a una venta más amplia de semiconductores relacionada con noticias de Samsung, más que exclusivamente a las Vera de Nvidia.

Nvidia dice que no ha terminado. Su siguiente núcleo de servidor, Rigel, basado en Arm v9.2 y planificado para la futura plataforma Rosa, está destinado a aumentar aún más el rendimiento por núcleo. Ya sea que Vera logre revolucionar el panorama de las CPUs para servidores o no, lo determinarán no solo las propias mediciones de rendimiento de Nvidia, sino también la recepción real de los clientes y la verificación de terceros del rendimiento de Vera a través de varias pruebas piloto.