Il governo statunitense costringe Anthropic a disattivare i suoi modelli di intelligenza artificiale più potenti per timori legati alla sicurezza

Venerdì 12 giugno, Anthropic ha disattivato i suoi due modelli di intelligenza artificiale più performanti in seguito a un ordine di controllo delle esportazioni emesso dal Dipartimento del Commercio degli Stati Uniti. Si è trattato di un caso insolito di interferenza governativa nella commercializzazione di una tecnologia di intelligenza artificiale all'avanguardia.

Secondo quanto dichiarato da Anthropic, il Segretario al Commercio degli Stati Uniti, Howard Lutnick, ha ordinato all'amministratore delegato di Anthropic, Dario Amodei, alle 17:21 ET di venerdì di limitare l'accesso a Claude Fable 5 e Claude Mythos 5.

La direttiva si applicava a tutti gli individui stranieri, indipendentemente dal fatto che si trovassero all'interno o all'esterno degli Stati Uniti, compresi i dipendenti di Anthropic nati all'estero.

Anthropic ha dichiarato di non essere in grado di applicare efficacemente le restrizioni basate sulla nazionalità e ha quindi disattivato i modelli. Gli altri modelli di Claude sono ancora disponibili.

Il Dipartimento del Commercio interviene contro i nuovi modelli di Anthropic

La direttiva è giunta in seguito a un avvertimento da parte di un'azienda non specificata riguardo a una tecnica in grado di aggirare alcune parti del sistema di sicurezza di Fable 5, secondo quanto riportato da Axios, che cita un funzionario dell'amministrazione.

Anthropic aveva rilasciato i due modelli solo tre giorni prima, il 9 giugno. Fable 5 era disponibile al pubblico, mentre Mythos 5 era riservato a partner selezionati nel settore della sicurezza informatica nell'ambito del Progetto Glasswing.

In precedenza, l'amministrazione Trump aveva avviato delle trattative per convincere l'azienda a posticipare il lancio del progetto, ma Anthropic ha comunque proseguito.

Un funzionario della Casa Bianca ha dichiarato che ritenevano importante mantenere i modelli sotto chiave mentre la nazione rafforza le infrastrutture di sicurezza federali, e ha aggiunto che, a suo parere, ci vorranno settimane.

In base alla direttiva, qualsiasi soggetto che intenda esportare, riesportare o trasferire uno dei due modelli negli Stati Uniti avrebbe bisogno di una licenza del Dipartimento del Commercio. Anche Anthropic dovrebbe richiedere licenze individuali validate. Il mancato rispetto della normativa potrebbe comportare sanzioni pecuniarie e civili, come riportato da Axios.

Anthropic sostiene che il rischio di evasione sia sovrastimato

Anthropic ha respinto la direttiva, affermando che il jailbreak in questione era limitato e non equivaleva a un bypass universale dei sistemi di sicurezza dei modelli.

L'azienda ha descritto la tecnica come un metodo che richiede a un modello di analizzare una specifica base di codice edenti difetti del software. Anthropic ha affermato di aver esaminato una dimostrazione del metodo e di aver riscontrato che esso ha individuato solo vulnerabilità minori già note.

"Abbiamo scoperto che anche altri modelli disponibili pubblicamente sono in grado di individuarli senza bisogno di alcuna modifica", ha scritto Anthropic, citando GPT-5.5 di OpenAI come esempio.

Anthropic ha inoltre affermato di aver condotto migliaia di ore di test di sicurezza (red teaming) prima del lancio, in collaborazione con il governo degli Stati Uniti, l'UK AI Safety Institute e organizzazioni private.

Secondo quanto affermato dall'azienda, i test non hanno rilevato alcun jailbreak universale, ovvero nessun singolo metodo in grado di eludere in modo generalizzato i controlli di sicurezza del modello in molteplici aspetti.

"Non siamo d'accordo sul fatto che la scoperta di una potenziale vulnerabilità di jailbreak, seppur limitata, debba essere motivo di ritiro dal mercato di un modello commerciale utilizzato da centinaia di milioni di persone", ha scritto Anthropic. "Se questo standard venisse applicato a tutto il settore, riteniamo che bloccherebbe di fatto tutte le nuove implementazioni di modelli per tutti i fornitori di modelli di punta."

Fable 5 era già oggetto di critiche

La chiusura ha concluso una settimana di lancio turbolenta per Anthropic.

Fable 5 è stato lanciato il 9 giugno con filtri che instradavano le query sensibili relative alla sicurezza informatica, alla biologia, alla chimica e alla ricerca sull'intelligenza artificiale a un modello precedente, Claude Opus 4.8. Tali filtri sono stati criticati quasi immediatamente in quanto ritenuti troppo restrittivi.

Secondo un precedente rapporto di Cryptopolitan, gli utenti affermavano che il modello aveva difficoltà a rispondere a domande di biologia di base riguardanti le membrane cellulari e i vaccini a mRNA.

Un'altra controversia si è concentrata sulla scheda di sistema di 319 pagine di Anthropic, che affermava che Fable 5 avrebbematicridotto la qualità dei risultati per le domande relative alla ricerca di frontiera sull'IA, senza avvisare gli utenti.

Anthropic ha modificato tale politica il 10 giugno, dopo che alcuni ricercatori avevano sostenuto che le misure di sicurezza nascoste avrebbero concentrato le capacità dell'IA nelle mani di un piccolo gruppo di aziende. L'azienda si è scusata e ha affermato che in futuro le misure di sicurezza saranno visibili agli utenti.

Secondo quanto riportato da The Verge, Microsoft ha anche limitato l'utilizzo di Fable 5 da parte dei dipendenti a causa del requisito di conservazione dei dati di 30 giorni imposto da Anthropic per i modelli di classe Mythos.

In base a tale politica, i prompt e gli output vengono conservati per 30 giorni per motivi di sicurezza e affidabilità, mentre i contenuti segnalati possono essere conservati fino a due anni.

Anthropic afferma di essere al lavoro per annullare la chiusura

Anthropic ha dichiarato che l'azione del governo si basa su un malinteso e che sta collaborando con i funzionari per risolvere la questione. L'azienda ha affermato che fornirà maggiori informazioni entro 24 ore.

La chiusura arriva in un momento critico per Anthropic. La società aveva presentato all'inizio di questo mese documentidentper una prevista IPO negli Stati Uniti, dopo aver raccolto 65 miliardi di dollari con una valutazione di 965 miliardi di dollari alla fine del mese scorso, secondo quanto riportato da Reuters.

Anthropic si trova ora sotto pressione su due fronti: le autorità di regolamentazione mettono in dubbio la sicurezza dei suoi modelli più avanzati, mentre gli investitori scommettono sulla sua capacità di continuare a incrementare i ricavi commerciali.

L'account ufficiale di Claude su X ha comunicato agli utenti che le nuove sessioni utilizzeranno ora di default il modello selezionato o Opus 4.8. Le sessioni Fable 5 esistenti termineranno con un errore e agli sviluppatori è stato consigliato di aggiornare le proprie integrazioni ad altri modelli di Claude.