중국 전신, 화웨이 칩 전용 MoE AI 모델 개발

중국 전신(China Telecom)은 화웨이 테크놀로지의 첨단 칩으로만 훈련된 혁신적인 전문가 혼합(Mixture-of-Experts, MoE) 아키텍처를 갖춘 중국 최초의 인공지능 모델을 개발했다.

지난달 중국 전신 인공지능 연구소(TeleAI)가 발표한 기술 논문에 따르면, 1,050억 개에서 수조 개의 파라미터를 가진 TeleChat3 모델들은 화웨이의 Ascend 910B 칩과 오픈 소스 딥러닝 AI 프레임워크인 MindSpore에서 훈련되었다.

TeleAI 연구진은 화웨이 스택이 다양한 크기의 대규모 MoE 모델 훈련에 필요한 ‘엄격한 요구사항’을 충족했다고 밝혔다. “이러한 기여들은 전방 규모 모델 훈련의 중요한 병목 현상을 해결하며, 국내 컴퓨팅 생태계에 맞춘 성숙한 풀스택 솔루션을 확립한다,” 그들은 추가적으로. 

중국 전신의 모델은 OpenAI의 GPT-OSS-120B보다 뒤처진다

MoE 아키텍처는 작업을 여러 개의 전문화된 하위 모델, 즉 ‘전문가’에게 분배한다. 따라서 이를 사용하여 개발된 AI 모델은 계산 오버헤드의 상당한 증가 없이 용량을 확장할 수 있다. MoE는 2024년 12월 출시된 DeepSeek의 V3 모델로 대중화되었으며, 이후 선두 중국 AI 모델들의 표준이 되었다.

그러나 MoE 모델은 훈련과 실행이 기술적으로 더 까다로운 것으로 간주되었다. 중국 전신이 보고한 TeleChat3 모델의 성능 점수는 8월 출시된 OpenAI의 GPT-OSS-120B보다 여러 벤치마크에서 뒤처졌다.

지난주 칭화대 스핀오프 기업은 새로운 이미지 생성 모델이 화웨이 칩으로 훈련되었다고 발표했으며, 이는 완전히 국내 훈련 스택에서 개발된 최초의 오픈 소스 모델로서 이미지 생성 분야에서 업계 최고 점수를 달성했다.

베이징 기반의 지푸 AI(Zhipu AI)는 지난해 1월 워싱턴의 블랙리스트에 올랐다. 미국은 화웨이와 이플텍(iFlytek)을 포함한 여러 중국 기술 기업들을 수출 통제 블랙리스트에 올렸다. 이는 이들 기업이 미국산 칩, 반도체 장비 및 기타 첨단 기술의 공급을 받는 것을 사실상 금지한다.

알리바바 그룹 홀딩스의 핀테크 자회사인 앤트 그룹 연구진도 ‘프리미엄 GPU 없이’ 3,000억 파라미터 규모의 MoE 모델을 성공적으로 훈련했다고 밝혔다. 그러나 그들은 국내 설계된 칩만 독점적으로 사용했는지 여부는 명시하지 않았다.

한편, 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. Cryptopolitan에 따르면, 중국 현지 기술주 나스닥 스타일 지수가 이번 달에만 거의 13% 상승했다. 홍콩 상장 중국 기술 기업을 추적하는 두 번째 지표는 6% 상승했으며, 두 지수 모두 나스닥 100을 따돌리고 있다.

베이징의 자립 선언에 엔비디아 주가 폭락

엔비디아는 첨단 GPU와 머신러닝 프레임워크가 대규모 MoE 모델 훈련을 위한 세계 최고의 도구라고 밝혔다. 그러나 미국이 중국 기업의 첨단 미국 칩 접근을 차단하는 무역 제한으로 인해, 베이징은 향후 5년 동안 전체 AI 스택에 대한 자립을 국가의 핵심 우선순위로 삼았다.

미국 정부는 최근 엔비디아의 두 번째로 강력한 칩인 H200을 중국에 판매하는 것을 승인했다. 그러나 중국은 첨단 칩의 출고를 차단했다. Cryptopolitan 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 베이징이 현지 칩 개발을 촉진하거나 미국과의 협상 지위를 강화하기 위해 제한 조치를 고려하고 있을 수 있다.

그 결과, 공급업체들은 차단 조치 후 H200 부품의 생산을 중단했다. 엔비디아는 중국 고객으로부터 100만 개 이상의 주문을 예상했으며 공급업체들은 3월 납품을 준비했으나, 세관 당국이 칩의 입국을 거부한 것으로 알려졌다.

보도 이후 엔비디아 주가는 약 3% 하락했다. 분석가들에 따르면 엔비디아는 명확한 위험에 직면해 있다. 만약 중국이 H200 출고를 계속 차단한다면, 주가는 중요한 단기 지지선을 깨뜨릴 수 있다. 승인이 완화된다면 부양 효과는 빠르게 올 수 있지만, 정책 불확실성은 양방향으로 작용한다. 

한편, 다른 칩 제조사들은mixed한 움직임을 보였다. AMD는 1.7% 상승했고, 인텔은 2.8% 하락했으며, S&P 500 ETF인 SPY는 약 0.1% 하락했다. 한편, 시장 관찰자들은 엔비디아의 다가오는 2월 25일 분기 실적 발표와 중국 수출 상황에 대한 새로운 세부 사항을 주시하고 있다.