O chip de $20B da NVIDIA poderia fazer o ChatGPT parecer lento

- A NVIDIA está se preparando para revelar um novo chip de inferência de IA em seu anual NVIDIA GTC, projetado para gerar respostas mais rapidamente do que os sistemas atuais como o ChatGPT.
- O chip é focado em inferência de IA e segue o acordo de cerca de US$ 20 bilhões da Nvidia para licenciar tecnologia e trazer os fundadores da Groq.
- Analistas esperam que a inferência de IA domine os gastos futuros em data centers, mesmo com rivais como a Meta Platforms desenvolvendo seus próprios processadores de inferência.
O gigante de chips NVIDIA está se preparando para revelar um novo e poderoso processador de inteligência artificial projetado para acelerar a geração de respostas por chatbots e outras ferramentas de IA, potencialmente fazendo com que os sistemas atuais, como ChatGPT pareçam lentos em comparação.
A nova plataforma, esperada para estrear na conferência anual de desenvolvedores GTC da NVIDIA, é otimizada para inferência de IA, a etapa em que os modelos treinados produzem respostas aos prompts dos usuários. Diferente das GPUs tradicionais, construídas para lidar tanto com treinamento quanto com inferência, o processador futuro foca especificamente em entregar respostas de forma mais rápida e eficiente.
O produto, se for lançado, marcará o primeiro resultado tangível do acordo de dezembro que trouxe os fundadores da Groq para o grupo, empresa especializada em hardware de processamento de IA de alta velocidade.
No final do ano passado, a NVIDIA teria gasto cerca de US$ 20 bilhões para licenciar tecnologia da startup de chips Groq e recrutar pessoal-chave, incluindo seu CEO. Na mesma época, o CEO da NVIDIA, Jensen Huang, disse aos funcionários: "Planejamos integrar os processadores de baixa latência da Groq na arquitetura da fábrica de IA da NVIDIA, ampliando a plataforma para atender a uma gama ainda mais ampla de inferências de IA e cargas de trabalho em tempo real."
Agora, espera-se que o novo chip de inferência seja capaz de lidar com consultas complexas de IA em alta velocidade, com coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. e outros clientes de destaque que provavelmente a adotarão, de acordo com o The Wall Street Journal. Seu relatório também mostrou que o novo chip pode lidar com cerca de 10% da carga de trabalho de inferência da OpenAI.
O chip estilo Groq usará SRAM, dizem fontes
Durante uma recente chamada de resultados, o CEO da NVIDIA insinuou que vários novos produtos serão revelados no próximo evento GTC, frequentemente descrito como o “Super Bowl da IA”. Ele havia comentado: “Tenho algumas ótimas ideias que gostaria de compartilhar com vocês no GTC.”
A maioria dos analistas concorda que o chip estilo Groq pode fazer parte da linha de produtos. Eles também afirmaram que seu design pode lançar luz sobre como a NVIDIA pretende abordar as restrições de memória na computação de inferência. Essas plataformas normalmente funcionam com memória de alta largura de banda (HBM). No entanto, o HBM tem sido difícil de obter recentemente.
Fontes internas afirmou afirmaram que a empresa planeja usar SRAM no chip em vez da RAM dinâmica associada ao HBM. Idealmente, o SRAM é mais acessível e pode melhorar o desempenho das cargas de trabalho de raciocínio de IA.
Se o chip for revelado, poderá ser um grande passo à frente para a empresa de chips e os modelos treinados por IA. No entanto, ao falar sobre seu possível lançamento, Sid Sheth, fundador e CEO da d-Matrix, lançou uma sombra sobre seu desenvolvimento. Ele observou que, embora a NVIDIA permaneça a líder clara no treinamento de IA, a inferência representa um cenário muito diferente. Ele compartilhou: “Os desenvolvedores podem recorrer a concorrentes que não a NVIDIA, porque executar modelos de IA finalizados não requer o mesmo tipo de programação do que treiná-los.”
Mesmo assim, outras gigantes da tecnologia também estão avançando na computação de inferência. A Meta revelou esta semana quatro processadores adaptados para inferência, o que levou um investidor do Vale do Silício a dizer que a indústria pode estar entrando em uma fase não “dominada pela NVIDIA”.
No entanto, mais recentemente, June Paik, diretora-executiva da FuriosaAI, uma concorrente da NVIDIA, comentando sobre os benefícios da computação de inferência facilmente implantável, alertou que a maioria dos data centers não pode acomodar as GPUs mais recentes com refrigeração líquida.
Apesar de suas preocupações, os analistas do Bank of America esperam que as cargas de trabalho de inferência representem 75% dos gastos em data centers de IA até 2030, quando o mercado atingirá cerca de US$ 1,2 trilhão, ante cerca de 50% no ano passado. Ben Bajarin, analista de tecnologia da Creative Strategies, também afirmou que os data centers do futuro não seguirão um modelo único, prevendo que as empresas adotarão abordagens diferentes para o desenvolvimento de chips e instalações.
Espera-se que a NVIDIA lance os chips Vera Rubin mais tarde em 2026
A NVIDIA também lançou recentemente seus chips de IA de próxima geração, os chips Vera Rubin, antecipando que o surgimento de plataformas de IA de raciocínio, como DeepSeek impulsionará ainda maior demanda computacional. A empresa afirmou que os chips ajudarão a treinar modelos de IA maiores e fornecer saídas mais sofisticadas para uma base de usuários mais ampla.
De acordo com Huang, o Rubin também chegará ao mercado no segundo semestre de 2026, com uma versão “ultra” de alta gama chegando em 2027.
Ele também explicou que um único sistema Rubin combinaria 576 GPUs individuais em um único chip. Atualmente, o chip Blackwell da NVIDIA agrupa 72 GPUs em seu sistema NVL72, o que significa que o Rubin contará com memória mais avançada.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.

Nellius Irene
Nellius é graduada em Gestão de Negócios e TI, com cinco anos de experiência no setor de criptomoedas. Também é formada pela Bitcoin Dada. Nellius contribuiu para publicações de mídia de destaque, incluindo BanklessTimes, Cryptobasic e Riseup Media.
















