China Telecom desarrolla modelos de IA MoE exclusivamente en chips Huawei

China Telecom ha desarrollado los primeros modelos de inteligencia artificial del país con la innovadora arquitectura Mixture-of-Experts (MoE) que se entrenan completamente en chips avanzados de Huawei Technologies.

Según un documento técnico publicado el mes pasado por el Instituto de Inteligencia Artificial de China Telecom (TeleAI), los modelos TeleChat3, que van desde 105 mil millones hasta billones de parámetros, se entrenaron en los chips Ascend 910B de Huawei y su marco de aprendizaje profundo de IA de código abierto, MindSpore.

Los investigadores de TeleAI afirmaron que la pila de Huawei cumplió con las «exigencias severas» del entrenamiento de modelos MoE a gran escala en una variedad de tamaños. «Estas contribuciones abordan colectivamente cuellos de botella críticos en el entrenamiento de modelos a escala fronteriza, estableciendo una solución completa madura adaptada a los ecosistemas computacionales nacionales» ellos añadió. 

El modelo de China Telecom se queda atrás del GPT-OSS-120B de OpenAI

La arquitectura MoE distribuye tareas entre múltiples submodelos especializados, o «expertos». Por lo tanto, los modelos de IA desarrollados con ella pueden escalar la capacidad sin aumentos significativos en la sobrecarga computacional. MoE fue popularizado por el modelo V3 de DeepSeek, lanzado en diciembre de 2024, y desde entonces se ha convertido en la norma para los modelos de IA chinos de vanguardia.

Sin embargo, los modelos MoE se consideraron más exigentes técnicamente para entrenar y ejecutar. Las puntuaciones de rendimiento autoinformadas de China Telecom para sus modelos TeleChat3 mostraron que se quedaban atrás de los de GPT-OSS-120B de OpenAI, lanzado en agosto, en varias pruebas.

La semana pasada, Tsinghua University Spin dijo que su nuevo modelo de generación de imágenes se entrenó en chips Huawei, convirtiéndolo en el primer modelo de código abierto desarrollado en una pila de entrenamiento completamente nacional en lograr puntuaciones líderes en la industria en generación de imágenes.

Zhipu AI, con sede en Beijing, fue incluida en la lista negra por Washington el enero pasado. El gobierno de EE. UU. ha colocado a varias empresas tecnológicas chinas, incluidas Huawei e iFlytek, en listas negras de control de exportaciones. Esto efectivamente les impide recibir chips de origen estadounidense, herramientas de semiconductores y otra tecnología avanzada.

Los investigadores de Ant Group, una filial de tecnología financiera de Alibaba Group Holding, también dijeron que entrenaron con éxito un modelo MoE de 300 mil millones de parámetros «sin GPUs premium». Sin embargo, no especificaron si habían utilizado exclusivamente chips diseñados nacionalmente.

Mientras tanto, como informó por Cryptopolitan, un índice al estilo Nasdaq de acciones tecnológicas locales chinas ha saltado casi un 13% solo este mes. Un segundo indicador que rastrea empresas tecnológicas chinas cotizadas en Hong Kong está un 6% arriba, y ambas están dejando atrás al Nasdaq 100.

Las acciones de Nvidia se desploman mientras Beijing declara la autosuficiencia

Nvidia dijo que sus GPUs avanzadas y marcos de aprendizaje automático eran las mejores herramientas del mundo para entrenar modelos MoE a gran escala. Sin embargo, Beijing ha hecho de la autosuficiencia en toda la pila de IA una prioridad clave para el país en los próximos cinco años debido a las restricciones comerciales de EE. UU. que bloquean el acceso de las empresas chinas a chips estadounidenses avanzados.

El gobierno de EE. UU. dio recientemente luz verde para que Nvidia vendiera a China el H200, el segundo chip más potente de la firma. Sin embargo, China se movió para bloquear los envíos de chips avanzados. Cryptopolitan informó que Beijing podría estar considerando restricciones para impulsar el desarrollo de chips locales o fortalecer su posición negociadora con EE. UU.

Como resultado, los proveedores pausaron la producción de componentes H200 después del bloqueo. Nvidia esperaba más de 1 millón de pedidos de clientes chinos, con proveedores preparándose para entregas en marzo, pero los funcionarios de aduanas reportedly negaron la entrada de los chips.

Las acciones de Nvidia han caído aproximadamente un 3% desde entonces tras los informes. Según los analistas, Nvidia enfrenta un riesgo claro. Si China continúa bloqueando los envíos de H200, la acción podría romper un soporte clave a corto plazo. Si las aprobaciones se relajan, el impulso podría llegar rápido, pero la incertidumbre política tiene dos caras. 

Por otro lado, otros fabricantes de chips mostraron movimientos mixtos ya que AMD subió un 1.7%, Intel cayó un 2.8%, mientras que el ETF S&P 500 SPY bajó aproximadamente un 0.1%. Mientras tanto, los observadores del mercado están atentos a los resultados trimestrales de NVDA del 25 de febrero y a cualquier nuevo detalle sobre su situación de exportación a China.