A Meta lança chips de IA internos enquanto a corrida para reduzir a dependência da Nvidia acelera

A Meta está avançando mais fortemente em chips de IA personalizados à medida que a luta para reduzir a dependência da Nvidia se torna mais séria em toda a grande tecnologia.

A empresa disse que começou o Meta Training and Inference Accelerator (MTIA) em 2023 e agora está preparando quatro novas gerações de chips nos próximos dois anos.

De acordo com a Meta, esses chips estão sendo construídos supostamente para classificação, recomendações e tarefas de GenAI em todos os produtos da Meta.

A empresa também disse que não está apostando em um único fornecedor ou em um único hardware. A Meta planeja continuar comprando silício de vários players da indústria enquanto mantém o MTIA no centro de seu próprio plano de infraestrutura de IA.

Nas palavras da empresa, ela está adotando uma “abordagem de portfólio” à medida que suas cargas de trabalho de IA crescem e mudam. Isso significa misturar chips externos com silício interno em vez de entregar toda a pilha a um único fornecedor.

A Meta lança quatro gerações de chips MTIA em um cronograma mais rápido

A Meta disse que já usa centenas de milhares de chips MTIA para trabalho de inferência vinculado tanto ao conteúdo orgânico quanto aos anúncios em seus aplicativos.

Os chips são construídos para os trabalhos da própria empresa, não para uso geral. Isso é importante porque a Meta disse que o hardware faz parte de uma solução completa personalizada, o que lhe dá um sistema mais ajustado para o trabalho que executa todos os dias.

A empresa disse que essa configuração oferece melhor eficiência de computação para seus casos de uso específicos e reduz o custo em comparação com chips de propósito mais amplo.

A próxima fase é uma implantação maior. A Meta disse que está construindo o MTIA 300, 400, 450 e 500, com cada versão trazendo ganhos em computação, largura de banda de memória e eficiência. O MTIA 300 já está em produção e lidará com o treinamento de classificação e recomendações.

O MTIA 400, 450 e 500 podem executar todas as cargas de trabalho, mas a Meta disse que esses chips serão principalmente usados para produção de inferência de GenAI no curto prazo e até 2027.

A empresa também disse que o silício é modular, o que permite que novos chips se encaixem na infraestrutura existente do sistema de rack. Isso reduz o tempo de espera entre o design e a implantação.

Sobre a velocidade de lançamento, a Meta disse que a indústria geralmente lança um novo chip de IA a cada um a dois anos, mas agora tem a capacidade de lançar seus próprios chips a cada seis meses ou menos, reutilizando designs modulares.

A Meta constrói sua estratégia de chip de IA em torno da inferência e padrões abertos

A empresa disse que sua estratégia MTIA se baseia em três partes: iteração rápida, design focado em inferência e adoção fácil por meio de padrões comuns.

No primeiro ponto, a Meta disse que o ciclo de lançamento mais curto ajuda a ajustar mais rapidamente à medida que as técnicas de IA mudam, trazem tecnologia de hardware mais recente e reduzem o custo de desenvolvimento e implantação de novas versões de chips.

No segundo ponto, a Meta traçou uma linha entre seu plano e o modelo de mercado usual. A empresa disse que a maioria dos chips mainstream é construída primeiro para grandes tarefas de pré-treinamento de GenAI e depois usada para outros trabalhos, muitas vezes em um nível de custo pior.

A Meta disse que está fazendo o oposto. O MTIA 450 e 500 estão sendo ajustados primeiro para inferência de GenAI, depois usados para classificação, treinamento e inferência de recomendações e treinamento de GenAI quando necessário.

A empresa também disse que o MTIA é construído desde o início em ferramentas e sistemas padrão, incluindo PyTorch, vLLM, Triton e o Open Compute Project. Seus designs de sistema e rack também seguem os padrões OCP para uso em data centers.

A Meta acrescentou que nenhum único chip pode cobrir todas as demandas que ela tem, razão pela qual planeja implantar diferentes chips para diferentes cargas de trabalho enquanto avança em direção ao que chamou de “superinteligência personalizada para todos.”