A Nvidia desafia a Intel e a AMD no mercado de CPUs de US$ 200B

A Nvidia envolveu-se na entrada no mercado de CPUs para data centers, um domínio que anteriormente era dominado por empresas como Intel e AMD e que atualmente é avaliado em US$ 200 bilhões. A empresa já adquiriu seu primeiro cliente na forma da Perplexity, que estará entre as primeiras empresas a adotar o novo processador da Nvidia, a Vera. Este é um movimento importante destinado a expandir as capacidades das operações da Nvidia além de suas renomadas GPUs.

As razões em jogo são principalmente econômicas. A afirmação da Nvidia, publicada no blog corporativo de Ian Buck em 7 de julho, é de que o processador que lida com a operação de um modelo de IA – executando vários aplicativos, executando código, transferindo dados, etc. – é atualmente um gargalo que faz com que GPUs caras permaneçam ociosas enquanto seu poder de processamento fica subutilizado. Além disso, foi mencionado pela Reuters que

A Perplexity implementará Vera como um dos primeiros projetos da nova plataforma de CPU da Nvidia. O vice-presidente Nate Kupp afirmou que o processador foi considerado “uma combinação perfeita” para as necessidades da empresa, tornando suas funções 1,5 vezes mais rápidas do que as das CPUs tradicionais durante testes internos. Embora a Reuters tenha noticiado a decisão de adotar a Vera e os benchmarks mencionados acima, vale notar que os testes foram conduzidos pela Perplexity e pela Nvidia, e não por quaisquer autoridades independentes.

A Perplexity executou um de seus trabalhos diários de agente no chip, clonando um repositório de código e executando sua suíte de testes dentro de sandboxes isoladas. De acordo com a Nvidia, a Vera concluiu esse trabalho cerca de 1,5 vezes mais rápido do que um processador de servidor x86 comparável e inicializou sandboxes paralelas até 1,9 vezes mais rápido. A empresa de pesquisa de IA agora planeja incorporar a Vera em seu próximo sistema de produção.

Por que a CPU se tornou o gargalo

A razão pela qual a CPU se tornou o gargalo na tecnologia de IA remonta ao padrão de funcionamento dos agentes de IA. Diferentemente dos chatbots tradicionais, que se concentram apenas na geração de respostas, os agentes de IA são responsáveis pela execução de ferramentas, execução de código, realização de consultas, recuperação de documentos e avaliação de resultados antes de fazer qualquer outra movimentação. O processo é sequencial, portanto, o desempenho de uma CPU de thread único torna-se essencial para a execução oportuna das respostas.

A indústria de IA está prestando cada vez mais atenção a essa mudança. Com a inteligência artificial transicionando da produção de texto para a execução de funções múltiplas e complexas por si só, tornou-se necessário que as CPUs façam orquestração, manipulação e transferência de informações antes que a GPU faça qualquer inferência.

De acordo com a Nvidia, para fazer o uso máximo das GPUs, seriam necessárias CPUs muito mais rápidas em um data center onde milhares de agentes de inteligência artificial precisam trabalhar simultaneamente. Da mesma forma, os processadores tradicionais foram desenvolvidos muito antes do surgimento da tecnologia envolvendo agentes de IA sempre ativos, criando uma oportunidade para CPUs otimizadas especificamente para essas cargas de trabalho.

Um tiro direto na Intel e na AMD

A Nvidia também não esconde suas intenções. Durante o Computex em 2 de junho em Taipé, Jensen Huang, CEO da empresa, indicou que o estabelecimento de uma divisão de CPU para computadores e servidores faz parte de seus planos para “reinventar” o mercado de CPUs. Muitos especialistas da área concordam que tal iniciativa coloca a Nvidia na categoria de concorrentes da Intel e da AMD. De acordo com a Reuters, espera-se que a Nvidia ganhe US$ 20 bilhões com suas CPUs Vera no ano fiscal atual. Ao mesmo tempo, a empresa afirma que o potencial total do mercado de CPUs vale US$ 200 bilhões.

Essa esperança de uma posição competitiva surge enquanto a Nvidia deseja encontrar-se não apenas na área de aceleradores de IA, mas também fora dessa área limitada. O mercado global de CPUs para servidores tem sido historicamente atendido pela Intel e pela AMD com a ajuda de processadores x86. No entanto, processadores baseados em Arm encontraram seu caminho no mercado de computação em nuvem de escala hipersônica, onde as empresas fazem algumas otimizações para cargas de trabalho específicas em vez de terem que usar processadores de propósito geral.

Essa competição ocorre enquanto os incumbentes estão lutando. A ação da Nvidia fechou em US$ 196,93 em 7 de julho, um aumento de 0,7%, de acordo com dados do Yahoo Finance. A AMD e a Intel caíram 6,5% e 9,7%, respectivamente. Mas os analistas atribuíram essas quedas geralmente a uma venda mais ampla de semicondutores relacionada a notícias da Samsung, e não apenas à Vera da Nvidia.

A Nvidia diz que não terminou. Seu próximo núcleo de servidor, Rigel, baseado no Arm v9.2 e planejado para a futura plataforma Rosa, tem como objetivo aumentar ainda mais o desempenho por núcleo. Se a Vera conseguir ou não revolucionar o cenário de CPUs para servidores será determinado não apenas pelas próprias medições de desempenho da Nvidia, mas também pela recepção real dos clientes e pela verificação de terceiros do desempenho da Vera por meio de vários testes piloto.