A China Telecom desenvolveu os primeiros modelos de inteligência artificial do país com a inovadora arquitetura Mixture-of-Experts (MoE), treinados inteiramente em chips avançados da Huawei Technologies.
De acordo com um artigo técnico publicado no mês passado pelo Instituto de Inteligência Artificial da China Telecom (TeleAI), os modelos do TeleChat3, que variam de 105 bilhões a trilhões de parâmetros, foram treinados nos chips Ascend 910B da Huawei e em sua estrutura de IA de aprendizado profundo de código aberto, o MindSpore.
Os pesquisadores da TeleAI afirmaram que a plataforma da Huawei atendeu às "exigências rigorosas" do treinamento de modelos MoE em larga escala, abrangendo uma variedade de tamanhos. " Essas contribuições, em conjunto, abordam gargalos críticos no treinamento de modelos de ponta, estabelecendo uma solução completa e madura, adaptada aos ecossistemas computacionais nacionais", acrescentaram .
O modelo da China Telecom está atrás do GPT-OSS-120B da OpenAI
A arquitetura MoE distribui tarefas para múltiplos submodelos especializados, ou “especialistas”. Portanto, os modelos de IA desenvolvidos com ela podem aumentar sua capacidade sem aumentos significativos na sobrecarga computacional. A MoE foi popularizada pelo modelo V3 da DeepSeek, lançado em dezembro de 2024, e desde então se tornou a norma para os principais modelos de IA chineses.
Os modelos MoE, no entanto, foram considerados mais exigentes tecnicamente para treinar e executar. Os resultados de desempenho autodeclarados pela China Telecom para seus modelos TeleChat3 mostraram que eles ficaram atrás dos do GPT-OSS-120B da OpenAI, lançado em agosto, em vários benchmarks.
Na semana passada, uma empresa derivada da Universidade Tsinghua afirmou que seu novo modelo de geração de imagens foi treinado em chips da Huawei, tornando-se o primeiro modelo de código aberto desenvolvido em uma plataforma de treinamento totalmente nacional a alcançar resultados líderes do setor em geração de imagens.
A Zhipu AI, com sede em Pequim, foi incluída na lista negra de Washington em janeiro passado. Os EUA colocaram diversas empresas de tecnologia chinesas, incluindo a Huawei e a iFlytek, em listas negras de controle de exportação. Isso as impede, na prática, de receber chips, ferramentas para semicondutores e outras tecnologias avançadas de origem americana.
Pesquisadores do Ant Group, uma fintech afiliada ao Alibaba Group Holding, também afirmaram ter treinado com sucesso um modelo MoE de 300 bilhões de parâmetros "sem GPUs premium". No entanto, eles não especificaram se utilizaram exclusivamente chips projetados no país.
Entretanto, conforme relatado pelo Cryptopolitan , um índice semelhante ao Nasdaq, que acompanha as ações de empresas de tecnologia chinesas listadas em Hong Kong, subiu quase 13% somente neste mês. Um segundo índice, trac as empresas de tecnologia chinesas listadas em Hong Kong, subiu 6%, e ambos estão ultrapassando o Nasdaq 100.
As ações da Nvidia despencam após Pequim declarar autossuficiência
A Nvidia afirmou que suas GPUs avançadas e estruturas de aprendizado de máquina são as melhores ferramentas do mundo para treinar modelos de MoE em larga escala. No entanto, Pequim tornou a autossuficiência em toda a cadeia de IA uma prioridade fundamental para o país nos próximos cinco anos, devido às restrições comerciais dos EUA que bloqueiam o acesso de empresas chinesas a chips americanos avançados.
O governo dos EUA recentemente autorizou a Nvidia a vender o H200, o segundo chip mais poderoso da empresa, para a China. No entanto, a China tentou bloquear as remessas de chips avançados. Cryptopolitan noticiou que Pequim pode estar considerando restrições para impulsionar o desenvolvimento local de chips ou fortalecer sua posição de negociação com os EUA.
Como resultado, os fornecedores interromperam a produção de componentes do H200 após o bloqueio. A Nvidia esperava mais de 1 milhão de encomendas de clientes chineses, com os fornecedores se preparando para as entregas em março, mas, segundo relatos, as autoridades alfandegárias recusaram a entrada dos chips.
As ações da Nvidia caíram cerca de 3% após a divulgação das notícias. Segundo analistas, a Nvidia enfrenta um risco evidente. Se a China continuar bloqueando as remessas do H200, as ações podem romper um importante suporte de curto prazo. Caso as aprovações sejam flexibilizadas, a recuperação pode ser rápida, mas a incerteza política pode ter dois extremos.
Por outro lado, outras fabricantes de chips apresentaram movimentos mistos: a AMD subiu 1,7%, a Intel caiu 2,8%, enquanto o ETF SPY do S&P 500 recuou cerca de 0,1%. Enquanto isso, os analistas de mercado aguardam o balanço trimestral da NVDA, previsto para 25 de fevereiro, e quaisquer novos detalhes sobre a situação de suas exportações para a China.
