China Telecom entwickelt MoE-KI-Modelle ausschließlich auf Huawei-Chips

China Telecom hat die ersten künstlichen Intelligenz-Modelle des Landes mit der innovativen Mixture-of-Experts-(MoE)-Architektur entwickelt, die vollständig mit fortschrittlichen Chips von Huawei Technologies trainiert wurden.

Laut einem technischen Papier, das letzten Monat vom Institut für Künstliche Intelligenz von China Telecom (TeleAI) veröffentlicht wurde, wurden die TeleChat3-Modelle, die von 105 Milliarden bis zu Billionen von Parametern reichen, auf Huaweis Ascend 910B-Chips und dessen Open-Source-Tiefenlern-KI-Framework MindSpore trainiert.

Forscher von TeleAI gaben an, dass der Huawei-Stack die „schweren Anforderungen“ des Trainings großer MoE-Modelle in verschiedenen Größen erfüllte. „Diese Beiträge adressieren gemeinsam kritische Engpässe beim Training von Modellen an der Frontierskala und etablieren eine ausgereifte Full-Stack-Lösung, die auf heimische Rechen-Ökosysteme zugeschnitten ist“, sie fügte. 

Chinas Telecoms Modell hinkt OpenAIs GPT-OSS-120B hinterher

Die MoE-Architektur verteilt Aufgaben auf mehrere spezialisierte Untermodelle oder „Experten“. Daher können KI-Modelle, die damit entwickelt wurden, ihre Kapazität skalieren, ohne dass es zu signifikanten Steigerungen des Rechenaufwands kommt. MoE wurde durch DeepSeeks V3-Modell, veröffentlicht im Dezember 2024, populär und ist seitdem zum Standard für führende chinesische KI-Modelle geworden.

MoE-Modelle galten jedoch als technisch anspruchsvoller zu trainieren und zu betreiben. Die von China Telecom selbst gemeldeten Leistungswerte für seine TeleChat3-Modelle zeigten, dass sie in mehreren Benchmarks hinter denen von OpenAIs im August veröffentlichtem GPT-OSS-120B zurückblieben.

Letzte Woche gab die Tsinghua-Universität bekannt, dass ihr neues Bildgenerierungsmodell auf Huawei-Chips trainiert wurde, was es zum ersten Open-Source-Modell macht, das auf einem vollständig inländischen Trainings-Stack entwickelt wurde und branchenführende Werte in der Bildgenerierung erreichte.

Das in Peking ansässige Zhipu AI wurde im vergangenen Januar von Washington auf die schwarze Liste gesetzt. Die USA haben mehrere chinesische Technologieunternehmen, darunter Huawei und iFlytek, auf Exportkontroll-Schwarzlisten gesetzt. Dies sperrt sie effektiv vom Erhalt von Chips, Halbleiterwerkzeugen und anderer fortschrittlicher Technologie aus den USA ab.

Forscher von Ant Group, einem Fintech-Tochterunternehmen der Alibaba Group Holding, gaben ebenfalls an, erfolgreich ein 300-Milliarden-Parameter-MoE-Modell „ohne Premium-GPUs“ trainiert zu haben. Sie gaben jedoch nicht an, ob sie ausschließlich inländisch entworfene Chips verwendet hatten.

Währenddessen, da berichtete von Cryptopolitan, ist ein Nasdaq-ähnlicher Index lokaler chinesischer Tech-Aktien in diesem Monat bereits um fast 13 % gestiegen. Ein zweiter Index, der chinesische Tech-Unternehmen in Hong Kong verfolgt, liegt um 6 % im Plus, und beide lassen den Nasdaq 100 hinter sich.

Nvidia-Aktie bricht ein, da Peking Selbstversorgung verkündet

Nvidia sagte, dass seine fortschrittlichen GPUs und Machine-Learning-Frameworks die besten Werkzeuge der Welt für das Training großer MoE-Modelle seien. Peking hat jedoch die Selbstversorgung im gesamten KI-Stack zu einer Schlüsselpriorität für das Land in den nächsten fünf Jahren gemacht, aufgrund von US-Handelsbeschränkungen, die chinesischen Firmen den Zugang zu fortschrittlichen US-Chips verwehren.

Die US-Regierung hat kürzlich die Erlaubnis erteilt, dass Nvidia die H200, den zweistärksten Chip des Unternehmens, an China verkauft. China versuchte jedoch, die Lieferungen von fortschrittlichen Chips zu blockieren. Cryptopolitan berichtete dass Peking möglicherweise Beschränkungen in Betracht zieht, um die lokale Chip-Entwicklung voranzutreiben oder seine Verhandlungsposition gegenüber den USA zu stärken.

Infolgedessen pausierten Lieferanten die Produktion von H200-Komponenten nach der Blockade. Nvidia hatte mit mehr als 1 Million Bestellungen von chinesischen Kunden gerechnet, wobei Lieferanten sich auf Lieferungen im März vorbereiteten, aber Zollbeamten reportedly weigerten sich, die Chips einzuführen.

Nvidia-Aktien sind seit den Berichten um etwa 3 % gefallen. Analysten zufolge sieht sich Nvidia einem klaren Risiko ausgesetzt. Wenn China die H200-Lieferungen weiterhin blockiert, könnte die Aktie eine wichtige kurzfristige Unterstützung durchbrechen. Sollten die Genehmigungen gelockert werden, könnte der Aufschwung schnell kommen, aber die politische Unsicherheit wirkt sich in beide Richtungen aus. 

Andererseits zeigten andere Chip-Hersteller gemischte Bewegungen, während AMD um 1,7 % stieg, Intel um 2,8 % fiel und der S&P-500-ETF SPY um etwa 0,1 % sank. In der Zwischenzeit achten Marktteilnehmer auf NVDas bevorstehende Quartalsergebnis am 25. Februar sowie auf neue Details zu seiner China-Export-Situation.