A OpenAI está esboçando o que parece ser o projeto para uma civilização construída por máquinas, alimentada por seus próprios chips, sua própria infraestrutura e eletricidade suficiente para iluminar duas cidades de Nova York.
A visão ambiciosa da empresa para uma cidade com inteligência artificial se baseia em uma meta praticamente impossível de concretizar: projetar e produzir bilhões de chips personalizados em parceria com a Broadcom para dar suporte ao que o CEO Sam Altman chama de "espinha dorsal da computação" do futuro.
Sam disse ao Wall Street Journal que fornecer os serviços de inteligência artificial que as pessoas exigem exigirá pelo menos um chip específico de IA por usuário, uma projeção impressionante que chega a bilhões.
Ali Farhadi, diretor do Allen Institute for AI, corroborou essa escala, afirmando que, se a IA substituir o trabalho humano na taxa prometida, “o mundo precisará de tantos chips de IA quanto chips convencionais”. Para a OpenAI, trata-se de controle: sobre os custos, sobre o consumo de energia e sobre a sobrevivência a longo prazo de seus modelos à medida que a demanda explode.
A OpenAI une Broadcom, Nvidia e gigantes da memória para computação de próxima geração
A Nvidia, naturalmente, ainda domina o espaço de treinamento de IA, com aproximadamente 70% de participação de mercado, razão pela qual a OpenAI precisa continuar usando suas GPUs para treinamento de modelos.
Mas a OpenAI está agora dividindo o processo: o treinamento ocorre na Nvidia, enquanto a inferência (o processo de fornecer respostas aos usuários) passa para o silício personalizado da Broadcom. Esse design de duastracpode reduzir custos e consumo de energia em uma escala onde cada ponto percentual importa.
Jordan Nanos, pesquisador de semicondutores da SemiAnalysis, afirmou que a Broadcom está ajudando a OpenAI a "reinventar a receita típica de chips de IA". Esses chips não serão genéricos. Eles estão sendo projetados especificamente para os modelos da OpenAI, que dependem de memória de alta largura de banda, fornecida pela Samsung e pela SK Hynix, duas empresas com as quais a OpenAI firmou parceria recentemente.
Esse tipo de memória permite uma movimentação de dados mais rápida entre processadores, algo crucial para sistemas como o Pulse da OpenAI, um agente de IA que analisa a web diariamente para informar os usuários. O Pulse consome tanta capacidade de processamento que, segundo Sam, seu uso é limitado àqueles que pagam US$ 200 por mês pelo plano Pro.
Essa dependência de memória de alta largura de banda está diretamente ligada ao funcionamento dos modelos da OpenAI. As primeiras redes neurais eram "densas", ativando grandes seções de seus sistemas para cada consulta. As mais recentes usam "esparsidade", que ativa apenas seções específicas de especialistas.
Em vez de usar 25% do modelo para responder a uma pergunta, os sistemas modernos acionam uma fração de um por cento. Essa diferença reduz drasticamente o consumo de energia e acelera os tempos de resposta. Quando um chip é construído em torno dessa lógica esparsa, a eficiência dispara, e a Broadcom é quem torna esse hardware possível.
Os supercomputadores de IA de escala gigawatt da OpenAIdefia infraestrutura
Sam afirmou que a capacidade computacional atual da OpenAI gira em torno de 2 gigawatts, distribuídos por data centers globais. A parceria com a Broadcom visa atingir 10 gigawatts até 2030, formando a base física para o que especialistas chamam de cidades de IA: complexos de servidores, armazenamento e interconexões personalizadas, interligados pelos chips de rede Tomahawk Ultra da Broadcom.
Isso é apenas parte da onda. Nas últimas três semanas, a OpenAI adicionou 16 gigawatts em novos contratos de capacidade com a AMD e a Nvidia, elevando o total a níveis que podem exigir um investimento de quase US$ 1 trilhão.
A usina Colossus da xAI em Memphis já atingiu 1,21 gigawatts neste outono. A usina Hyperion da Meta, na Louisiana, tem aprovação para 2,3 gigawatts, e Mark Zuckerberg almeja 5 gigawatts. A corrida energética da IA é oficialmente global.
Sam descreveu essa transformação como "o maior projeto industrial conjunto da história", afirmando que mesmo esses acordos são "uma gota no oceano comparados ao que precisamos alcançar". Parte de seu objetivo é diversificar os fornecedores.
O campus Stargate em Abilene, Texas, que está sendo construído pela Oracle, terá como foco o treinamento de IA, principalmente em chips da Nvidia. O hardware da AMD lidará com as cargas de trabalho de inferência, enquanto o silício personalizado da Broadcom preencherá a lacuna de eficiência.
Como disse Nanos, "a OpenAI está olhando bem para o futuro e tentando garantir que tenha acesso a um suprimento suficiente de chips"
