Anthropic invia i migliori esperti di sicurezza a Washington per salvare i modelli principali

In seguito a un rapporto di Cryptopolitan riguardante un divieto federale di esposto imposto sulla vendita del suo software AI agli utenti che non sono americani, Anthropic ha schierato ricercatori di sicurezza e modelli AI a Washington.

Gli incontri di lunedì sono stati i primi colloqui faccia a faccia tra la startup e i funzionari di alto livello dell'amministrazione Trump da quando l'ordine è entrato in vigore.

La Casa Bianca non si aspetta che la disputa scompaia entro pochi giorni, sebbene i funzionari non abbiano escluso un rapido accordo.

Secondo Politico, un alto funzionario ha posto l'onere sull'azienda, dicendo: "Questo spetta ad Anthropic." La restrizione è stata introdotta per possibili vulnerabilità di sicurezza nel nuovo modello e ora blocca gli utenti non statunitensi dall'accedere alla tecnologia di punta dell'azienda.

Anthropic invia il suo team di sicurezza per spiegare le difese del modello

Anthropic ha passato il weekend a cercare di evitare che il problema crescesse, poiché il co-fondatore Tom Brown e Sarah Heck, che guida la politica pubblica dell'azienda, hanno partecipato a lunghe chiamate con il Segretario al Commercio Howard Lutnick e il Direttore Nazionale per la Cybersecurity Sean Cairncross.

Queste comunicazioni hanno portato a incontri lunedì che coinvolgevano il Dipartimento del Commercio e l'ufficio di Cairncross. Lo staff si è occupato delle discussioni. Uno di questi funzionari era Chris Fall, che dirige il Centro per gli Standard e l'Innovazione dell'IA presso il Dipartimento del Commercio.

Durante l'incontro, Anthropic ha presentato in grande dettaglio le misure di sicurezza che circondano il modello ai dipendenti federali. Ha parlato di sistemi di test, ricerca di vulnerabilità e limitazione del comportamento indesiderato prima del rilascio del prodotto. Questo era mirato a convincere Washington che poteva offrire il modello all'estero senza presentare alcuna minaccia alla sicurezza nazionale.

L'azienda ha inviato Logan Graham dal Frontier Red Team, dove testa i sistemi cercando di violarne le protezioni. Dave Orr, il capo delle salvaguardie, si è unito a lui. Nicholas Carlini, il principale ricercatore di sicurezza dell'azienda, faceva parte anche della delegazione.

L'azione del governo ha già rimosso l'accesso estero ai modelli più forti di Anthropic. Ha anche creato incertezza sul fatto che i funzionari federali possano fermare il rilascio di un'IA dopo che un'azienda segue un sistema di revisione volontaria.

I funzionari di Trump difendono l'ordine mentre i leader del settore avvertono di danni più ampi

L'ultimo ordine esecutivo di Trump sull'IA ha richiesto che le principali aziende tecnologiche inviassero i loro nuovi modelli per la valutazione governativa 30 giorni prima del loro rilascio. La partecipazione era interamente volontaria. Nella sua forma finale, l'ordine ha cancellato le proposte precedenti che avrebbero costretto i modelli AI a sottoporsi all'approvazione o alla licenza governativa prima del loro lancio.

David Sacks, un venture capitalist che ha consigliato l'amministrazione Trump sull'IA, era stato parte della creazione della politica e ha ancora legami con il presidente. La mossa contro Anthropic ha suscitato preoccupazioni all'interno dell'amministrazione sul fatto che il governo stesse sviluppando segretamente un processo di approvazione che l'ordine cercava di evitare.

Secondo Kush Desai, portavoce della Casa Bianca, l'amministrazione sta lavorando con i leader del settore dell'IA per garantire che l'innovazione e gli interessi di sicurezza nazionale siano presi in considerazione.

Kush ha anche detto: "Gli Stati Uniti sono di gran lunga i leader mondiali nella corsa globale all'IA, e il presidente Trump si è impegnato a garantire il dominio tecnologico dell'America."

Un funzionario dell'amministrazione ha detto che il conflitto potrebbe ancora rientrare nell'ordine esecutivo se la restrizione termina rapidamente. "Se questa cosa si placa, se le restrizioni vengono sollevate domani, allora direi: 'Oh ok, questo è ancora in qualche modo coerente con l'ordine esecutivo, e continueremo per quello'", ha detto il funzionario.

La stessa persona ha tracciato una linea più dura se il divieto rimane. "Se la situazione è ancora f***** tra una settimana, allora penso che abbiamo una chiara comprensione di cosa sta succedendo."

Quell'ufficiale presumibilmente ha definito uno scontro prolungato "un enorme problema" per il settore dell'IA degli Stati Uniti e ha avvertito che ogni futuro sviluppatore di modelli potrebbe finire per chiedere il permesso a Washington prima del lancio. "Questa è una situazione estremamente negativa e paralizzerebbe completamente l'intero settore", ha detto l'ufficiale. "Metterebbe davvero l'intera industria dell'IA in svantaggio e creerebbe un problema di reclutamento e ritenzione per i ricercatori dell'IA."