China Telecom разрабатывает модели ИИ с архитектурой MoE исключительно на чипах Huawei

China Telecom разработала первые в стране модели искусственного интеллекта с инновационной архитектурой Mixture-of-Experts (MoE), которые обучены полностью на передовых чипах от Huawei Technologies.

Согласно техническому документу, опубликованному в прошлом месяце Институтом искусственного интеллекта China Telecom (TeleAI), модели TeleChat3, ranging от 105 миллиардов до триллионов параметров, были обучены на чипах Huawei Ascend 910B и его фреймворке глубокого обучения с открытым исходным кодом MindSpore.

Исследователи TeleAI заявили, что стек Huawei удовлетворил «суровые требования» обучения крупномасштабных моделей MoE в различных размерах. «Эти вклады в совокупности решают критические узкие места в обучении моделей передового масштаба, создавая зрелое комплексное решение, адаптированное к внутренним вычислительным экосистемам», они приобрела. 

Модель China Telecom уступает GPT-OSS-120B от OpenAI

Архитектура MoE распределяет задачи между несколькими специализированными подмоделями или «экспертами». Поэтому ИИ-модели, разработанные с ее помощью, могут масштабировать мощность без значительного увеличения вычислительных накладных расходов. MoE популяризировала модель DeepSeek V3, выпущенная в декабре 2024 года, и с тех пор стала нормой для передовых китайских ИИ-моделей.

Однако модели MoE считались более технически сложными для обучения и запуска. Самоотчетные показатели производительности моделей TeleChat3 от China Telecom показали, что они уступают моделям GPT-OSS-120B от OpenAI, выпущенным в августе, по нескольким бенчмаркам.

На прошлой неделе спин-офф Университета Цинхуа заявил, что его новая модель генерации изображений обучена на чипах Huawei, что делает ее первой моделью с открытым исходным кодом, разработанной на полностью внутреннем стеке обучения, достигшей ведущих в отрасли показателей в генерации изображений.

Пекинская Zhipu AI была включена в черный список Вашингтоном в январе прошлого года. США включили несколько китайских технологических компаний, включая Huawei и iFlytek, в списки экспортного контроля. Это фактически запрещает им получать чипы, инструменты для производства полупроводников и другие передовые технологии американского происхождения.

Исследователи Ant Group, финтех-дочерняя компания Alibaba Group Holding, также заявили, что успешно обучили модель MoE на 300 миллиардов параметров «без премиальных GPU». Однако они не уточнили, использовали ли они исключительно чипы отечественного дизайна.

Тем временем, как сообщал сообщает Cryptopolitan, индекс местных китайских технологических акций в стиле Nasdaq вырос почти на 13% только за этот месяц. Второй индикатор, отслеживающий китайские технологические компании, котирующиеся в Гонконге, вырос на 6%, и оба оставляют Nasdaq 100 позади.

Акции Nvidia падают, так как Пекин объявляет о самообеспеченности

Nvidia заявила, что ее передовые GPU и фреймворки машинного обучения являются лучшими инструментами в мире для обучения крупномасштабных моделей MoE. Однако Пекин сделал самообеспеченность во всем стеке ИИ ключевым приоритетом для страны на ближайшие пять лет из-за торговых ограничений США, блокирующих доступ китайских фирм к передовым чипам США.

Правительство США недавно дало разрешение Nvidia продавать H200, второй по мощности чип компании, в Китай. Однако Китай предпринял шаги для блокировки поставок передовых чипов. Cryptopolitan сообщал что Пекин может рассматривать ограничения для продвижения местного развития чипов или укрепления своей переговорной позиции с США.

В результате поставщики приостановили производство компонентов H200 после блокировки. Nvidia ожидала более 1 миллиона заказов от китайских клиентов, поставщики готовились к поставкам в марте, но таможенные чиновники, по сообщениям, отказали во въезде для чипов.

Акции Nvidia с тех пор упали примерно на 3% после сообщений. Согласно аналитикам, Nvidia сталкивается с четким риском. Если Китай продолжит блокировать поставки H200, акции могут пробить ключевую поддержку в краткосрочной перспективе. Если разрешения смягчатся, рост может произойти быстро, но неопределенность политики работает в обе стороны. 

С другой стороны, другие производители чипов показали смешанные результаты: AMD выросла на 1,7%, Intel упала на 2,8%, а ETF SPY, отслеживающий индекс S&P 500, снизился примерно на 0,1%. Тем временем наблюдатели за рынком ждут квартальной отчетности NVDA, которая будет опубликована 25 февраля, а также новых деталей о ситуации с экспортом в Китай.