Le aziende di IA cinesi in un vicolo cieco tra GPU illecite o chip locali lenti

Il settore dell'intelligenza artificiale cinese sta combattendo un dilemma delle GPU mentre le aziende bilanciano prestazioni, prezzo e rischio normativo in un panorama tecnologico globale sempre più stretto.

Sebbene gli Stati Uniti abbiano allentato la presa e dato a Nvidia l'approvazione per vendere le sue GPU H200 in Cina, le spedizioni sono rimaste bloccate alla dogana, spingendo gli sviluppatori di IA a scegliere tra GPU del mercato grigio a un premio o chip domestici più lenti.

Le aziende stanno navigando nella stretta di offerta di GPU e IA in Cina

Secondo quanto riportato da alcune aziende cinesi di IA, le unità di elaborazione H200 di Nvidia sono diventate difficili da ottenere attraverso qualsiasi mezzo diverso da canali illeciti, sebbene abbiano ottenuto l'approvazione normativa per acquisire questa attrezzatura. L'incertezza che circonda questa situazione sta influenzando il numero di aziende in grado di creare efficacemente piani di addestramento.

SCMP ha citato un funzionario senior di un data center di Pechino che ha detto che “è impossibile creare un piano di addestramento serio finché non abbiamo l'infrastruttura in loco.”

I prezzi delle H200 sono schizzati oltre le medie mondiali. Secondo i consulenti del settore, “Alcune aziende faranno di tutto per mantenere un vantaggio competitivo.” Altre aziende stanno lavorando per spostare i loro carichi di lavoro dalle H200 a modelli meno potenti.

Secondo Cryptopolitan, i fornitori di Nvidia hanno interrotto la produzione degli acceleratori IA H200 della società dopo che la Cina ha bloccato le spedizioni di chip avanzati, infliggendo un altro colpo all'accesso del chipmaker statunitense a uno dei suoi mercati più grandi.

Recentemente, i fornitori stavano lavorando senza sosta in previsione di oltre un milione di ordini dalla Cina, mirando a rispettare le scadenze di consegna di marzo. Questa settimana, tuttavia, i funzionari doganali cinesi hanno informato gli agenti che le spedizioni delle H200 non sarebbero state consentite nel paese.

La Cina ha redatto un nuovo progetto di legge normativo che controllerà quanti chip IA avanzati le aziende locali possono acquistare da fornitori stranieri, specificamente Nvidia, secondo Nikkei Asia. Questo fa parte della missione di Xi Jinping di sostenere i produttori di chip statali rispetto a quelli americani da quando Trump ha iniziato una guerra tecnologica e commerciale.

La domanda di Nvidia all'interno della Cina è ancora alta, specialmente da parte di grandi piattaforme che si affidano a una potente capacità di calcolo per eseguire modelli di IA su larga scala. Le aziende cinesi hanno ordinato più di due milioni di chip H200, ciascuno con un prezzo di circa 27.000 dollari.

Huawei e diversi altri produttori di chip locali sono intervenuti, producendo GPU per supportare varie applicazioni di IA, piuttosto che sviluppare nuove GPU per l'addestramento di modelli all'avanguardia. Un ingegnere di IA con sede a Shanghai ritiene che il settore dei chip domestici continui un regime di rapido miglioramento.

“Al momento, non possono competere con Nvidia, ma stanno diventando sempre più valide per l'uso di inferenza e modelli applicati”, ha dichiarato.

A causa di questi compromessi, alcuni dei progetti di fascia alta sono stati ritardati, mentre altri progetti focalizzati sul miglioramento dell'efficienza computazionale sono accelerati così tanto che molte aziende stanno rivedendo completamente i propri modelli in modo che consumino meno core CPU.

Questo è probabile che ridefinisca la direzione dell'evoluzione dell'IA in Cina, secondo gli analisti.

Utilizzare infrastrutture ed energia per rafforzare le ambizioni dell'IA

Il Vice Primo Ministro cinese HE Lifeng Zhang ha sottolineato l'importanza della strategia infrastrutturale-first della Cina durante il Forum Economico Mondiale e come questo dia loro un vantaggio competitivo.

Secondo Zhang, la strategia infrastrutturale-first della Cina fornisce un vantaggio strutturale alla Cina, poiché l'elettricità a basso costo e affidabile avrà un enorme impatto su ciò che può essere realizzato con l'IA.

Zhang ha dichiarato che la creazione di grandi data center potrebbe aumentare il numero totale di data center della Cina da circa 120 milioni a fino a 300 milioni entro il 2030.

Un ricercatore di politiche ha stimato che il consumo di elettricità da tutti i data center della Cina più che raddoppierà entro il 2030, con l'offerta di elettricità prevista per tenere il passo con questa domanda aumentata.

Secondo un analista energetico specializzato nella regione, l'elettricità è importante quanto i semiconduttori per lo sviluppo dell'IA. “L'elettricità è il benefattore silenzioso dell'IA”, ha dichiarato l'analista energetico.