A Meta testa o seu chip de treino de IA interno que limitará a dependência de fornecedores como a Nvidia

A Meta está a testar o seu primeiro chip de treino de IA, que foi concebido para treinar os sistemas de IA da Meta e reduzir a dependência da empresa em fornecedores de terceiros como a Nvidia.

A iniciativa também deve reduzir a enorme conta de infraestrutura da empresa, com a Meta a visar a utilização dos seus próprios chips internos até 2026, de acordo com fontes citadas pela Reuters.

A Meta está a trabalhar com a TSMC neste projeto

Diz-se que a empresa já está a utilizar um chip de geração anterior para treinar os seus algoritmos de classificação e ação recomendada, mas esta seria a sua primeira utilização para treinar ferramentas generativas como a Meta AI.

A Reuters relatou que a Meta abriu uma nova aba para testar o chip desenvolvido internamente. A gigante das redes sociais começou uma pequena colocação do chip, com planos de aumentar a produção para uso em larga escala se o teste correr bem.

Os relatórios indicam que a Meta está a treinar chips de IA dedicados a lidar com tarefas específicas de IA. Diz-se que foi fabricado pela TSMC, com a implantação de teste seguindo um tape-out bem-sucedido do processo final antes da fabricação de um semicondutor.

A Meta começou a testar o seu primeiro “tape-out” do chip, um marco significativo no trabalho de desenvolvimento de silício que envolve enviar um design inicial para uma fábrica de chips.

De acordo com a Reuters, um tape-out típico custa dezenas de milhões de dólares e leva aproximadamente um trimestre a meio ano para ser concluído, sem garantia de que o teste tenha sucesso. Uma falha exigiria que a empresa diagnosticasse o problema e repetisse o passo do tape-out.

A Meta tem vindo a desenvolver os seus próprios chips para reduzir a sua dependência no hardware da Nvidia. A Meta tem sido um dos maiores clientes da Nvidia e acumulou uma coleção de GPUs para treinar os seus modelos, incluindo a série de modelos base Llama.

Os analistas de IA expressaram preocupações e dúvidas sobre o progresso que pode ser alcançado ao escalar continuamente os LLMs adicionando mais dados e poder de computação, dúvidas que foram reforçadas quando a DeepSeek lançou os seus modelos a uma fração do custo incorrido pelos seus pares.

Relatado pela primeira vez em desenvolvimento em 2023, os chips internos da Meta, apelidados de Meta Training and Inference Accelerator, são baseados em nós de 7 nm e fornecem 102 Tops de precisão de computação Inteira (8-bit) ou 51,2 teraflops de precisão de computação FP16.

Os chips funcionam a 800 megahertz e têm cerca de 370 milímetros quadrados.

Este chip é o mais recente na série MTIA da empresa e o programa teve um início instável ao longo dos anos e, num certo ponto, abandonou um chip numa fase semelhante de desenvolvimento.

A Meta falhou nos objetivos iniciais, atrasando o lançamento do chip

A Meta estava originalmente prevista para lançar os seus chips em 2022, mas abandonou o plano após não cumprir os objetivos internos, com a mudança de CPUs para GPUs para treino de IA forçando a empresa a redesenhar os seus data centers e cancelar múltiplos projetos.

No entanto, a Meta começou no ano passado a utilizar um chip MTIA para realizar inferência, ou o processo envolvido na execução de um sistema de IA à medida que os utilizadores interagem com ele, para os sistemas de recomendação que determinam que conteúdo aparece nos feeds de notícias do Facebook e do Instagram.

Em fevereiro de 2024, de acordo com o relatório, a empresa planeava implantar a segunda geração do chip MTIA.

A empresa, que também é proprietária do Instagram e do WhatsApp, projetou despesas totais de 2025 de US$ 114 bilhões a US$ 119 bilhões, incluindo até US$ 65 bilhões em investimento de capital, impulsionados principalmente pelos gastos com infraestrutura de IA.

Executivos da Meta disseram que querem começar a utilizar os seus próprios chips até 2026 para treino ou o processo intensivo em computação de alimentar o sistema de IA com grandes quantidades de dados para o ensinar a realizar tarefas.

Tal como com o chip de inferência, o objetivo para o chip de treino é começar com sistemas de recomendação e mais tarde utilizá-lo para produtos de IA generativa como o chatbot Meta AI, disseram os executivos.

Na conferência de tecnologia, media e telecomunicações da Morgan Stanley na semana passada, o diretor de produtos da Meta, Chris Cox, disse: “Estamos a trabalhar em como faríamos o treino para sistemas de recomendação e, em seguida, como pensamos sobre o treino e a inferência para a IA generativa.”

Comentando os esforços de desenvolvimento de chips da Meta, Cox descreveu-os como “uma situação de caminhar, arrastar-se, correr”, até agora. No entanto, disse que os executivos consideraram as recomendações do chip de inferência de primeira geração como um “grande sucesso.”