Il governo USA costringe Anthropic a chiudere i suoi modelli di IA più potenti per timori di sicurezza

Anthropic ha disabilitato i suoi due modelli di IA più performanti venerdì 12 giugno, in seguito a un ordine di controllo all'esportazione dal Dipartimento del Commercio degli Stati Uniti. È stato un caso insolito di interferenza governativa nella commercializzazione della tecnologia di IA di frontiera.

Il Segretario al Commercio degli Stati Uniti, Howard Lutnick, ha ordinato al CEO di Anthropic, Dario Amodei, alle 17:21 ET di venerdì, di limitare l'accesso a Claude Fable 5 e Claude Mythos 5, secondo la dichiarazione di Anthropic.

La direttiva si applicava a tutti i cittadini stranieri, indipendentemente dal fatto che si trovassero all'interno o all'esterno degli Stati Uniti, inclusi i dipendenti stranieri di Anthropic stesso.

Anthropic ha dichiarato di non poter applicare efficacemente le restrizioni basate sulla nazionalità e ha quindi disattivato i modelli. Gli altri modelli Claude sono ancora disponibili.

Il Dipartimento del Commercio si muove contro i modelli più recenti di Anthropic

La direttiva seguiva un avvertimento da parte di un'azienda non identificata riguardo a una tecnica che potrebbe aggirare alcune parti del sistema di sicurezza di Fable 5, ha riportato Axios, citando un funzionario dell'amministrazione.

Anthropic aveva rilasciato i due modelli solo tre giorni prima, il 9 giugno. Fable 5 era disponibile al pubblico, mentre Mythos 5 era limitato a partner selezionati di cybersecurity nell'ambito del Progetto Glasswing.

In precedenza, l'amministrazione Trump era stata impegnata in conversazioni per cercare di convincere l'azienda a posticipare il lancio, ma Anthropic ha proceduto comunque.

Un funzionario della Casa Bianca ha detto che riteneva importante mantenere i modelli bloccati mentre la nazione rafforza le infrastrutture di sicurezza federali e ha affermato che ciò richiederà settimane.

Ai sensi della direttiva, qualsiasi parte che desideri esportare, riesportare o trasferire uno dei due modelli negli Stati Uniti dovrebbe ottenere una licenza dal Dipartimento del Commercio. Anthropic dovrebbe anche richiedere licenze validate individualmente. Il mancato rispetto potrebbe comportare sanzioni monetarie e civili, ha riportato Axios.

Anthropic afferma che il rischio di jailbreak è sopravvalutato

Anthropic ha respinto la direttiva, affermando che il jailbreak in questione era limitato e non costituiva un bypass universale dei sistemi di sicurezza dei modelli.

L'azienda ha descritto la tecnica come quella che chiede a un modello di esaminare un codice specifico e identificare le vulnerabilità del software. Anthropic ha dichiarato di aver esaminato una dimostrazione del metodo e di aver riscontrato che evidenziava solo vulnerabilità minori precedentemente note.

«Abbiamo riscontrato che altri modelli pubblicamente disponibili sono in grado di scoprirli altrettanto bene senza richiedere un bypass», ha scritto Anthropic, citando GPT-5.5 di OpenAI come esempio.

Anthropic ha anche dichiarato di aver condotto migliaia di ore di red-teaming prima del lancio con il governo degli Stati Uniti, l'UK AI Safety Institute e organizzazioni private.

Questi test non hanno trovato un jailbreak universale, ha detto l'azienda, il che significa che non esiste un singolo metodo in grado di sconfiggere ampiamente i controlli di sicurezza del modello attraverso molte capacità.

«Non concordiamo sul fatto che la scoperta di una potenziale jailbreak stretta debba essere motivo di richiamo di un modello commerciale distribuito a centinaia di milioni di persone», ha scritto Anthropic. «Se questo standard venisse applicato in tutto il settore, crediamo che di fatto bloccherebbe tutti i nuovi rilasci di modelli da parte di tutti i fornitori di modelli all'avanguardia.»

Fable 5 era già sotto critica

Lo shutdown ha concluso una settimana di lancio turbolenta per Anthropic.

Fable 5 è debuttato il 9 giugno con filtri che instradavano le query sensibili in cybersecurity, biologia, chimica e ricerca AI verso un modello precedente, Claude Opus 4.8. Quei filtri sono stati criticati quasi immediatamente come troppo restrittivi.

Secondo un rapporto precedente di Cryptopolitan, gli utenti hanno riferito che il modello faticava con domande di biologia di base che coinvolgevano membrane cellulari e vaccini mRNA.

Un'altra controversia riguardava la scheda di sistema di 319 pagine di Anthropic, che indicava che Fable 5 avrebbe automaticamente ridotto la qualità dell'output per le domande relative alla ricerca sull'AI all'avanguardia senza avvisare gli utenti.

Anthropic ha modificato quella politica il 10 giugno dopo che i ricercatori hanno sostenuto che le salvaguardie nascoste concentrerebbero le capacità dell'AI in un piccolo gruppo di aziende. L'azienda si è scusata e ha dichiarato che le future salvaguardie sarebbero state visibili agli utenti.

Microsoft ha anche limitato l'uso da parte dei dipendenti di Fable 5 a causa del requisito di conservazione dei dati di 30 giorni di Anthropic per i modelli di classe Mythos, ha riportato The Verge.

Ai sensi di tale politica, i prompt e gli output sono archiviati per 30 giorni per scopi di fiducia e sicurezza, mentre i contenuti segnalati possono essere trattenuti fino a due anni.

Anthropic afferma di stare lavorando per invertire lo shutdown

Anthropic ha dichiarato che l'azione del governo si basava su un malinteso e che sta collaborando con le autorità per risolvere la questione. L'azienda ha affermato che fornirà maggiori informazioni entro 24 ore.

Lo shutdown arriva in un momento critico per Anthropic. La società ha presentato documenti riservati all'inizio di questo mese per un'IPO statunitense pianificata, dopo aver raccolto 65 miliardi di dollari con una valutazione di 965 miliardi di dollari alla fine dello scorso mese, ha riportato Reuters.

Anthropic ora affronta pressioni su due fronti: i regolatori mettono in discussione la sicurezza dei suoi modelli più avanzati, mentre gli investitori scommettono sulla sua capacità di continuare a far crescere i ricavi commerciali.

L'account ufficiale di Claude su X ha informato gli utenti che le nuove sessioni ora utilizzeranno di default il modello selezionato o Opus 4.8. Le sessioni esistenti di Fable 5 termineranno con un errore, e agli sviluppatori è stato consigliato di aggiornare le loro integrazioni ad altri modelli Claude.