Il fondatore di ByteDance rifiuta la distillazione mentre gli USA mirano ai laboratori cinesi
Foto di Claudio Schwarz su Unsplash.
- Il fondatore di ByteDance, Zhang Yiming, ha escluso l'uso della distillazione per i modelli AI dell'azienda.
- Questa posizione distingue ByteDance dal copia e incolla occulto che la Casa Bianca accusa Moonshot AI di aver utilizzato per costruire Kimi K3.
- La dichiarazione arriva mentre Washington minaccia sanzioni per la distillazione e il divario tra i modelli statunitensi e cinesi si riduce.
Il fondatore di ByteDance, Zhang Yiming, ha dichiarato che la distillazione non verrà utilizzata per addestrare i modelli di IA dell'azienda. Questo differenzia l'azienda dagli altri laboratori di IA cinesi che sono stati accusati di utilizzare la tecnica della distillazione.
Questo avviene mentre i funzionari statunitensi hanno accusato i laboratori cinesi di utilizzare la tecnica per colmare il divario con i modelli di IA americani. I funzionari di Washington sono arrivati a minacciare sanzioni.
Zhang traccia una linea quando tutti gli altri tagliano le angustie
The Information rapporto Zhang Yiming si dichiara veementemente contrario alla distillazione nell'addestramento dei modelli di IA dell'azienda. Zhang ha deciso di essere più coinvolto nelle ambizioni di IA di ByteDance e ha incontrato i ricercatori senior per acquisire conoscenze dirette, monitorando al contempo gli sforzi di reclutamento dell'azienda.
Questo è importante perché avviene in un momento cruciale della corsa all'IA. Proprio questo stesso mese, i funzionari statunitensi hanno innalzato l'asticella nella loro lotta contro i laboratori cinesi per la pratica della distillazione. ByteDance possiede anche Seedance, un modello video redditizio e leader per le prestazioni, un risultato raro tra i prodotti di IA cinesi.
Perché Washington guarda con sospetto alla distillazione
La distillazione è semplicemente l'addestramento di modelli di IA più deboli sulle risposte di modelli più forti. Questo assicura che i sistemi di IA più piccoli imparino a imitare il sistema più grande. La distillazione viene eseguita apertamente ed è una parte routine dell'industria dell'IA. È considerata legale, anche se di solito viene eseguita su piccola scala.
Michael Kratsios, che ricopre il ruolo di direttore dell'Ufficio per la Scienza e la Tecnologia della Casa Bianca, ha sostenuto che Moonshot AI ha distillato il modello Fable di Anthropic durante la costruzione di Kimi K3, il suo sistema di IA.
Lo ha dichiarato in un post su X che Moonshot ha gestito l'operazione tramite una piattaforma interna dedicata, che ruotava i percorsi di accesso per cercare di eludere il rilevamento e utilizzava server NVIDIA GB300 in Thailandia, che sono vietati dall'esportare in Cina dalle regole di esportazione statunitensi.
Anthropic avrebbe tracciato 3,4 milioni di conversazioni Claude verso Moonshot tramite account falsi. Moonshot non ha ancora risposto a queste accuse.
Come ByteDance ha costruito Seedance, il suo modello di IA leader
ByteDance ha avuto il suo momento di svolta in un modo completamente diverso. L'azienda ha scommesso su Seedance 2.0 nonostante le discussioni interne sul costo elevato e sulla scala aggressiva del modello. Il modello video è stato costruito per superare la soglia dei 200 miliardi di parametri, ma è stato considerato troppo ambizioso da alcuni all'interno dell'azienda.
La mossa ha dato i suoi frutti poiché il margine lordo dei modelli si è attestato intorno al 70-90%, dopo che l'azienda ha speso molto per GPU, dati e reclutamento di livello mondiale.
Washington afferma che il divario nell'IA si sta chiudendo
La battaglia sulla distillazione è la punta dell'iceberg. Scott Bessent, il Segretario al Tesoro, ha accennato all'eventuale imposizione di sanzioni se e quando le aziende cinesi adotteranno la distillazione su scala industriale. Un disegno di legge bipartitico della Camera dei Rappresentanti renderebbe più facile identificare e sanzionare i tentativi di distillazione.
I numeri hanno sollecitato un'azione urgente. Nonostante le spese per l'IA siano state 23 volte superiori a quelle della Cina, gli Stati Uniti hanno perso la loro leadership nella corsa all'IA. Secondo l'Institute for Human-Centered AI di Stanford, i migliori modelli di entrambi i paesi sono praticamente identici.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Domande frequenti
Cosa ha detto il fondatore di ByteDance riguardo alla distillazione?
Zhang Yiming ha escluso l'utilizzo della distillazione per addestrare i modelli AI di ByteDance, prendendo le distanze dalla tecnica al centro dell'attuale disputa tra Stati Uniti e Cina.
Di cosa è accusata Moonshot AI?
L'ufficiale della Casa Bianca Michael Kratsios ha accusato Moonshot AI di aver distillato in modo occulto il modello Fable di Anthropic su scala industriale per costruire Kimi K3, utilizzando un sistema interno dedicato e server NVIDIA GB300 riservati situati in Thailandia.
Come ha avuto successo il modello Seedance di ByteDance senza distillazione?
ByteDance ha investito massicciamente in talenti, dati e GPU, sostenendo la spinta del ricercatore Zeng Yan a scalare Seedance 2.0 oltre i 200 miliardi di parametri, producendo un modello che ora genera più della metà dei ricavi del servizio modello-as-a-service di Volcano Engine.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.
