A NVIDIA está de olho no território da Intel e da AMD

Em 31 de maio, a NVIDIA anunciou a produção em larga escala de sua CPU Vera, posicionando o chip de 88 núcleos como o primeiro processador do setor de data centers projetado especificamente para cargas de trabalho de agentes de IA. Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance e CoreWeave estão entre os primeiros a adotar a tecnologia e planejam implementá-la, de acordo com o comunicado de imprensa da empresa.

O chip representa a investida mais agressiva da NVIDIA até o momento além das GPUs, rumo ao mercado de CPUs, dominado pela Intel e AMD há décadas. Enquanto o Grace, chip anterior da NVIDIA baseado em ARM para servidores, teve cerca de 2,5 milhões de unidades vendidas até hoje, o Vera introduz uma arquitetura de núcleo totalmente personalizada chamada Olympus, em vez de licenciar um projeto de núcleo ARM pronto para uso, de acordo com o Tom's Hardware.

Por que as cargas de trabalho de agentes de IA estãodefia demanda de CPU em data centers

A economia dos centros de dados para inteligência artificial mudou. À medida que os modelos evoluem de responder a perguntas para executar código, invocar programas e coordenar tarefas complexas, a CPU torna-se um fator crucial. Jensen Huang, CEO da NVIDIA, descreveu o potencial diretamente: “Os agentes de IA serão os maiores usuários de computação… Vera é a primeira CPU projetada para esse futuro, construída para executar IA com agentes em hiperescala com desempenho, eficiência e programabilidade extraordinários.”

As especificações do Vera ilustram seu potencial. Ele possui 88 núcleos Olympus, juntamente com a tecnologia Spatial Multithreading da empresa, complementada por um sistema de memória LPDDR5X, oferecendo até 1,2 TB por segundo de largura de banda, consumindo menos de 30 watts de energia da memória. De acordo com o fabricante, o Vera pode executar tarefas a uma velocidade 1,8 vezes maior que a dos processadores x86 ao trabalhar com aplicações de IA ativa, como compilação de código, execução de Python, Java e manipulação de banco de dados.

independentesdent pela Phoronix, utilizando benchmarks selecionados pela NVIDIA, mostraram que o Vera compila um kernel Linux em 20 segundos (em uma configuração de soquete único), proporcionando um aumento de desempenho de 10% em relação ao EPYC 9575F da AMD operando a 5,0 GHz, conforme alegado pelo blog da NVIDIA. O fundador da Phoronix, Michael Larabel, afirmou que o Vera "acaba por apresentar um desempenho impressionante, com uma competitividade com CPUs Intel/AMD x86_64 que eu nunca vi em nenhum outro processador ARM ou não-x86_64".

No entanto, isso vem com uma ressalva, já que os benchmarks usados ​​acima foram selecionados e executados pela própria NVIDIA. Nenhum testedent foi realizado até o momento.

Adoção inicial pelo mercado por parte de laboratórios de IA, hiperescaladores e empresas

A carteira de clientes da Vera inclui de pesquisa em IA , hiperescaladores e infraestrutura financeira. Em declarações feitas pela presidente da NYSE,dent Martin, a bolsa, que processa mais de 1,1 trilhão de mensagens por dia, pretende utilizar a Vera em conjunto com a Redpanda e a Hewlett Packard Enterprise para aumentar a capacidade e reduzir a latência.

Segundo James Bradbury, chefe de computação da Anthropic, a empresa está avaliando o Vera para cargas de trabalho de agentes que exigem alto poder de processamento da CPU. "Escalar a capacidade computacional é um importante acelerador para o crescimento dos modelos", disse Bradbury. "Estamos entusiasmados em ver o Vera emergir como uma parte promissora do ecossistema na resolução de cargas de trabalho de agentes."

A Oracle Cloud Infrastructure planeja se tornar a primeira provedora de hiperescala a utilizar o Vera, com o vice-dent executivo da OCI, Mahesh Thiagarajan, chamando-o de "a próxima fronteira na supercomputação de IA em hiperescala".

No que diz respeito à fabricação de hardware, a Dell Technologies, a HPE, a Lenovo e a Supermicro oferecerão o Vera em configurações de servidor com CPU independente. A NVIDIA descreveu isso como "a primeira opção de CPU padrão além do x86" de grandes OEMs. Fabricantes taiwaneses, incluindo ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology etron, também estão produzindo sistemas.

Integração mais ampla em toda a infraestrutura de IA da NVIDIA

A Vera se encaixa perfeitamente na visão de ecossistema de fábrica de IA completa da NVIDIA. A Vera funciona como o host da CPU da plataforma Vera Rubin, que se conecta às GPUs Rubin usando NVLink-C2C de segunda geração com largura de banda de 1,8 TB/s. Além disso, a Vera faz parte da plataforma BlueField-4 STX em termos de rede e armazenamento. De acordo com o Dealroom, Ian Buck, executivo da NVIDIA, entregou as primeiras unidades da Vera para clientes como a Anthropic em São Francisco e a SpaceXAI em Palo Alto.

A cadeia de suprimentos de memória reagiu imediatamente. A DIGITIMES afirma que a decisão da NVIDIA de comercializar o Vera como um chip separado cria demanda por DRAM de baixo consumo, aumentando assim a pressão sobre a já apertada cadeia de suprimentos de chips de memória.

O que observar enquanto Vera entra na fase de implantação

Os sistemas Vera serão enviados a parceiros e provedores de nuvem no terceiro trimestre deste ano. No entanto, algumas questões precisam ser consideradas, como se os resultados de benchmarksdent em uma variedade de aplicações gerais comprovam a alegação de desempenho da NVIDIA e se o chip Olympus personalizado consegue rivalizar com a capacidade do software x86 em termos de compatibilidade de aplicações. Por ora, porém, uma coisa é certa: a NVIDIA não se contenta mais em possuir apenas o acelerador. Ela quer toda a pilha de data center de IA.