ULTIME NOTIZIE
SELEZIONATO PER TE

Il cambio di rotta dell'IA di Anthropic? Amodei respinge le affermazioni sul divieto dei modelli aperti

DiAshish KumarAshish Kumar 4 min di lettura
Il cambio di rotta dell'IA di Anthropic? Amodei respinge le accuse di divieto di modelli open-source
  • Dario Amodei di Anthropic ha dichiarato che l'azienda non ha mai cercato di vietare i modelli AI a peso aperto.
  • Ha invece chiesto controlli più rigorosi sull'esportazione di chip, regole contro la distillazione e test di sicurezza obbligatori per l'IA.
  • Il dibattito si svolge mentre i legislatori statunitensi valutano norme che potrebbero ridisegnare il futuro dell'IA open-source.

Dario Amodei, CEO di Anthropic, ha dichiarato lunedì che l'azienda non ha mai tentato di proibire i modelli IA open-weight, una smentita diretta ai regolatori che stanno valutando nuove normative e ai concorrenti che sostengono che Claude abbia fatto uso di dilemmi di sicurezza e protezione per difendersi.

Questa chiarimento è importante perché Washington sta determinando l'entità dell'implementazione delle normative. Il Senato ha presentato un disegno di legge che potrebbe portare a un limite federale sui modelli open-weight, che sono una categoria di modelli che gli sviluppatori possono scaricare e utilizzare sulle proprie macchine. L'esito del dibattito influenzerà quale laboratorio otterrà un vantaggio competitivo, che tipo di modelli le aziende avranno accesso al mercato e in che misura i vari fornitori di modelli chiusi lo domineranno.

I colli di bottiglia che Amodei vuole regolamentare invece

Nel suo post sul blog, Amodei non ha chiesto un divieto assoluto ma ha proposto tre suggerimenti più specifici per i policy maker. Innanzitutto, vuole una regolamentazione più severa della tecnologia avanzata dei chip e dei dispositivi di calcolo inviati alle nazioni autoritarie come la Cina. Vuole anche che i divieti contro la "distillazione" industriale siano rigorosi, il che significa addestrare un nuovo modello con gli output di un modello più avanzato. Infine, vuole il test obbligatorio dei modelli potenti per garantirne la sicurezza.

Secondo Amodei, il divieto sottrarrebbe solo al vero pericolo, poiché, come ha affermato, "gli attori malintenzionati sono improbabili che siano aziende statunitensi legittime". Amodei ha ammesso ad Axios che il divieto del open-source cinese dovrebbe aiutare a tenere lontani laboratori come il suo dalla concorrenza, ma ha sostenuto che "questo non è mai stato il mio obiettivo". Come notato da Bloomberg Law, la sua preoccupazione principale riguarda gli stati autoritari che sviluppano un'IA superiore ai prodotti statunitensi.

La lettera che Anthropic non ha firmato

È arrivata in risposta a un significativo rifiuto pubblico. Secondo i rapporti, più di due dozzine di aziende, tra cui Nvidia, Meta e Microsoft, hanno firmato una lettera intitolata "Open Weights and American AI Leadership" in cui le aziende hanno chiesto ai legislatori di non imporre restrizioni alla tecnologia, come dichiarato da Business Insider. Nel weekend, OpenAI, Google e SpaceX si sono uniti al gruppo, quindi lunedì Anthropic era l'unica grande azienda a non averlo fatto.

Silicon Valley si è accorta. David Sacks, il venture capitalist e ex consigliere per l'IA dell'amministrazione Trump, ha avvertito l'industria su X che deve "osservare questi ragazzi come un falco".

A sua volta, Bill Gurley di Benchmark ha dichiarato che Anthropic stava proteggendo la sua "strategia economica aziendale". Kai-Fu Lee, che ha fondato la startup cinese open-model 01.AI, ha detto che la persona che non ha firmato era "molto più interessante di chi l'ha fatta".

Da una preoccupazione condivisa sulla Cina a una spaccatura pubblica

La divisione è più recente della questione sottostante. Cryptopolitan ha riportato che i concorrenti a modello chiuso si stanno unendo contro di loro a Washington da un po' di tempo. A luglio, Axios ha osservato come OpenAI e Anthropic si siano uniti per sensibilizzare i legislatori sui potenti modelli cinesi open-weight, una posizione che ha attirato critiche da persone come Sacks, che la attaccano come un possibile caso di cattura regolamentare che consoliderebbe l'influenza delle grandi aziende.

Il catalizzatore del dibattito è stato Kimi K3, un modello open-weight sviluppato dalla startup cinese Moonshot, che sfidava i modelli statunitensi a un prezzo molto inferiore. Alcune persone hanno accusato Moonshot di aver utilizzato il modello Fable di Anthropic per addestrare Kimi K3 attraverso un processo chiamato distillazione, e il Segretario al Tesoro Scott Bessent ha proposto sanzioni contro i modelli cinesi trovati a copiare quelli statunitensi. Dopo questo, OpenAI e Google, i due maggiori concorrenti di Anthropic, hanno firmato una lettera aperta, lasciando Anthropic da sola e sollevando domande sul fatto che Anthropic volesse un divieto per difendere i suoi interessi commerciali.

Cosa ha ammesso Amodei e cosa ha respinto

Amodei ha cercato di camminare su una linea sottile. Ha riconosciuto che i modelli aperti aumentano l'accessibilità, abilitano la concorrenza e mettono i clienti al controllo; ha persino caratterizzato i modelli aperti senza capacità rischiose come "un bene pubblico". Tuttavia, ha respinto l'affermazione chiave sulla sicurezza della lettera, sostenendo che non crede che i pesi aperti permettano ai difensori di costruire difese facilmente o che un maggiore accesso sia più utile ai difensori che agli attaccanti. A suo avviso, qualsiasi modello capace può armare virus a livello pandemico, mentre creare una difesa richiede molto tempo.

Attualmente, la divisione è la più evidente nel settore. Nvidia ha colto l'occasione per annunciare la formazione della Open Secure AI Alliance, supportata da Microsoft, SpaceX, Hugging Face, tra gli altri, affermando che le tecnologie aperte sono protette dalla legge e che un divieto totale darebbe troppo potere a pochi fornitori chiusi. Ora la palla è nelle mani dei legislatori che devono ancora sviluppare standard che determinerebbero la risposta alle domande affrontate sopra.

 

Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.

Domande frequenti

Perché Anthropic ha rifiutato di firmare la lettera sui pesi aperti?

Anthropic ha declinato l'adesione alla lettera "Open Weights and American AI Leadership" perché Amodei contesta l'affermazione secondo cui i modelli aperti rendano necessariamente l'IA più sicura o offrano ai difensori informatici un vantaggio sugli attaccanti; una posizione che, secondo i critici, protegge anche il business dei suoi modelli chiusi.

Perché Anthropic ha rifiutato di firmare la lettera sui pesi aperti?

Anthropic ha declinato l'adesione alla lettera "Open Weights and American AI Leadership" perché Amodei contesta l'affermazione secondo cui i modelli aperti rendano necessariamente l'IA più sicura o offrano ai difensori informatici un vantaggio sugli attaccanti; una posizione che, secondo i critici, protegge anche il business dei suoi modelli chiusi.

Cosa vuole che facciano i regolatori, secondo Amodei, invece di un divieto?

Ha proposto tre politiche più mirate: controlli più severi sui chip avanzati destinati a governi autoritari, una repressione della distillazione su scala industriale e test di sicurezza obbligatori per i modelli sufficientemente capaci, sia aperti che chiusi.

Cosa ha innescato il dibattito sull'IA a peso aperto?

Il dibattito si è intensificato dopo che Kimi K3, un modello cinese a peso aperto sviluppato da Moonshot, ha raggiunto prestazioni vicine a quelle dei modelli all'avanguardia statunitensi a una frazione del costo, suscitando accuse di distillazione dalla Casa Bianca e discussioni su sanzioni contro i modelli open source cinesi.

Condividi questo articolo

Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.

Ashish Kumar

Ashish Kumar

Ashish Kumar è un giornalista specializzato in criptovalute e finanza con otto anni di esperienza nei redazioni. Si occupa di ciò che accade nei mercati crypto, nella regolamentazione, nel DeFi e negli ecosistemi degli exchange. Ha lavorato con Coingape, Todayq e Newsroompost. Ashish possiede un PGDP in Giornalismo Inglese dall'IIMC. Ha inoltre intervistato figure del settore tra cui Arthur Hayes, Yat Siu, Austin Federa e altri.

ALTRE NOTIZIE …