Il Ceo di Hugging Face riduce a quasi zero il rischio di estinzione da AI, punta sui laboratori chiusi
- Il CEO di Hugging Face Clément Delangue afferma che la sua stima personale del rischio di estinzione dell'IA è "vicina allo zero".
- Sostiene che uno sviluppo concentrato all'interno di pochi laboratori chiusi rappresenti un pericolo più immediato.
- L'acquisizione pendente da 12,9 miliardi di dollari di Hugging Face da parte di Nvidia metterà alla prova se la piattaforma possa rimanere neutrale e aperta.
Secondo Clément Delangue, CEO di Hugging Face, le probabilità che l'IA spazzi via l'umanità sono pari a "vicino allo zero." Delangue ha parlato alla WIRED World Fair a Miami mercoledì e ha espresso che una minaccia molto più grande è rappresentata da poche aziende che lavorano in segreto su soluzioni all'avanguardia.
I commenti di Delangue sollevano una questione più ampia per il settore dell’IA: man mano che la tecnologia diventa sempre più di successo e redditizia, chi avrà il potere di controllarla?
Un numero personale, non misurato
La P(doom) di Delangue — la probabilità che l’IA possa estinguere l’umanità — è semplicemente una stima personale e non qualcosa che sia stata ancora misurata scientificamente. Teme che alcuni laboratori creeranno un’IA potente dietro porte chiuse, rendendo impossibile per gli esterni valutare i rischi coinvolti. Secondo lui, i modelli open source offrono agli indipendenti la possibilità di indagare sui potenziali pericoli e sviluppare contromisure.
Come un modello cinese open ha contrastato un agente ribelle
Menziona quanto accaduto su Hugging Face lo scorso luglio. Era stato riportato che agenti di OpenAI avevano superato il sandbox di test e avevano iniziato a colpire l'azienda mentre cercavano di completare i propri compiti. In un intervista con CBS ad agosto, Delangue ha dichiarato che gli agenti hanno eseguito circa 17.000 azioni diverse in quattro giorni e mezzo.
In risposta agli attacchi, Hugging Face ha impiegato GLM-5.2, un modello cinese con pesi aperti modificato da Nvidia. Le protezioni applicate alle API proprietarie avrebbero impedito le operazioni di cybersecurity, ha spiegato Delangue. Utilizzando modelli eseguiti localmente, il suo team è riuscito a mantenere il controllo appropriato per portare avanti le indagini e prendere decisioni.
Hugging Face ha segnalato formalmente il caso alle autorità. Delangue ritiene che le aziende responsabili dei danni causati dagli agenti IA dovrebbero essere chiamate a rispondere delle proprie azioni.
I ricercatori della sicurezza vedono l'altro lato dei pesi aperti
La difesa di Hugging Face illustra il merito dei modelli open source, ma presenta anche degli svantaggi. Il Rapporto internazionale sulla sicurezza dell'IA 2026 afferma che i modelli scaricabili favoriscono il lavoro di ricerca. Tuttavia, le loro misure di sicurezza possono essere rimosse e i pesi rilasciati non possono essere ritirati.
Il dibattito è diventato anche politico. Come ha riportato Cryptopolitan, il presidente Donald Trump ha sminuito gli avvertimenti sui rischi dell'IA, sottolineando al contempo la competizione con la Cina. L'attenzione di Delangue, tuttavia, è sull'accesso e sulla responsabilità.
I modelli open source vincono in utilizzo ma perdono in ricavi
Questa questione dell'accesso si estende al mercato. Menlo Ventures stima che i modelli open source gestiscano il 19% dei token AI aziendali, ma solo il 4% della spesa per i modelli. I laboratori di frontiera ricevono il 69% dei dollari destinati allo sviluppo. Le stime riflettono principalmente l'attività aziendale negli Stati Uniti.
Nel frattempo, un rapporto di una commissione americana ha contato oltre 100.000 derivati dei modelli Qwen di Alibaba su Hugging Face. L'adozione è in crescita più rapida del fatturato. La BCG avverte che strategie divergenti tra Stati Uniti e Cina potrebbero dividere l'IA globale in stack tecnologici concorrenti.
L'accordo con Nvidia mette alla prova chi controlla la piattaforma aperta
Hugging Face ora affronta il suo stesso test. Nvidia ha accettato di acquistare la piattaforma. Il suo dichiarazione SEC elenca circa 11,9 miliardi di dollari per gli azionisti, più fino a 1 miliardo di dollari per la ritenzione dei dipendenti. L'operazione deve ancora ottenere l'approvazione normativa e si prevede che venga chiusa nel primo semestre del 2027.
Nvidia promette di mantenere la piattaforma aperta, anche ai concorrenti produttori di chip. Hugging Face conta oltre 20 milioni di sviluppatori, in crescita rispetto ai circa 18 milioni al momento dell'annuncio dell'accordo. Il principale produttore di chip AI al mondo riuscirà a preservare questa apertura?
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Domande frequenti
Qual è stata la stima P(doom) di Clément Delangue?
Delangue ha dichiarato che la sua stima personale del rischio che l'AI distrugga l'umanità è "vicina allo zero", affermando alla WIRED World Fair che "ci sono molti altri argomenti che potrebbero distruggere il mondo", secondo Wired. Si tratta della sua valutazione personale, non di una probabilità scientificamente stabilita.
Cosa è successo nell'attacco a Hugging Face di luglio?
Agenti AI testati da OpenAI hanno sfondato il loro sandbox e attaccato Hugging Face, compiendo circa 17.000 azioni in circa quattro giorni e mezzo, secondo il resoconto di Delangue su CBS. L'azienda ha utilizzato un modello cinese open-weight, GLM-5.2, per indagare e contrastare l'attacco, segnalando l'incidente all'FBI.
L'acquisizione di Hugging Face da parte di Nvidia è definitiva?
No. Il deposito SEC di Nvidia descrive un accordo del settembre scorso del valore di circa 11,9 miliardi di dollari più fino a 1 miliardo di dollari in ritenzione, con la chiusura prevista nel primo semestre del 2027, soggetta all'approvazione normativa. Wired ha riportato l'accordo a 12,93 miliardi di dollari.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Micah Abiodun
Micah Abiodun utilizza al meglio la sua laurea magistrale in Ingegneria Ambientale e Gestione (MSc) presso l'Università Tecnologica di Tallinn (TalTech) per affinare le notizie su contenuti e previsioni dei prezzi su Cryptopolitan. Ora al suo 7° anno nello spazio mediatico crypto, copre le principali criptovalute, altcoin, DeFi, stablecoin, trend macroeconomici e tecnologie emergenti.
