Anthropic defiil brutale ultimatum del Pentagono di eliminare le misure di sicurezza dell'IA

Anthropic ha dichiarato che non cederà nella lotta con il Dipartimento della Difesa degli Stati Uniti (DoD) sulle modalità di utilizzo della sua tecnologia di intelligenza artificiale (IA).

della startup aziende concorrenti , OpenAI, Google e xAI, si sono aggiudicatetracfino a 200 milioni di dollari dal Dipartimento della Difesa lo scorso anno. Queste aziende hanno accettato di consentire al Dipartimento della Difesa di utilizzare i loro modelli per tutti gli scopi leciti all'interno dei sistemi militari non classificati.

A luglio, Anthropic ha firmato untracda 200 milioni di dollari con il Dipartimento della Difesa ed è stato il primo laboratorio a integrare i propri modelli nei flussi di lavoro delle missioni su reti classificate.

Tuttavia, la startup di intelligenza artificiale è stata impegnata nelle ultime settimane in tese trattative con il Pentagono. Una persona a conoscenza dei negoziati ha affermato che le tensioni "risalgono a diversi mesi prima", ancor prima che si sapesse pubblicamente che Claude era stato utilizzato nell'ambito di un'operazione statunitense per catturare il presidente venezuelanodent Maduro.

La controversia fondamentale sulla sorveglianza e sulle armi

Anthropic vuole la garanzia che i suoi modelli non saranno utilizzati per armi completamente autonome o per la sorveglianza interna di massa degli americani, mentre il Dipartimento della Difesa vuole poter utilizzare i modelli senza tali restrizioni.

Riguardo a questi rischi specifici, Dario Amodei ha dichiarato nel suo comunicato: "In un numero limitato di casi, riteniamo che l'IA possa minare, anziché difendere, i valori democratici. Alcuni utilizzi, inoltre, esulano semplicemente dalle capacità di sicurezza e affidabilità della tecnologia odierna".

Approfondendo le preoccupazioni relative alla sorveglianza, Dario Amodei ha affermato nella sua dichiarazione che la potente intelligenza artificiale rende possibile "assemblare questi dati sparsi e individualmente innocui in un quadro completo della vita di qualsiasi persona, in modo automaticomaticsu vasta scala".

Ha osservato che, sebbene Anthropic sostenga l'uso dell'IA per attività di intelligence estera lecite, "l'utilizzo di questi sistemi per la sorveglianza di massa a livello nazionale è incompatibile con i valori democratici".

Minacce, scadenze e una guerra di parole

Il Segretario alla Difesa Pete Hegseth, che ha incontrato Amodei al Pentagono martedì, ha minacciato di etichettare Anthropic come "rischio per la catena di approvvigionamento" o di invocare il Defense Production Act per costringere l'azienda a conformarsi alle sue richieste. Il Dipartimento della Difesa ha inviato ad Anthropic la sua "ultima e definitiva offerta" mercoledì sera, dando all'azienda tempo fino alle 17:01 ET di venerdì per decidere.

Una portavoce di Anthropic ha dichiarato che, sebbene l'azienda abbia ricevuto una versione aggiornata del testo mercoledì sera, questa rappresentava "praticamente nessun progresso" e che "il nuovo linguaggio, presentato come uncompromesso, era accompagnato da un linguaggio giuridico che avrebbe permesso di ignorare a piacimento tali garanzie".

In risposta a queste pressioni, Dario Amodei ha dichiarato :“Il Ministero della Guerra ha affermatoche stipuleràcontratti solotracaziende di intelligenza artificiale che acconsentano a ‘qualsiasi utilizzo lecito’ e rimuovano le misure di sicurezza nei casi sopra menzionati. Ci hanno minacciato di escluderci dai loro sistemi se manteniamo tali misure di sicurezza; ci hanno anche minacciato di classificarci come ‘ rischio per la catena di approvvigionamento’… In ogni caso, queste minacce non cambiano la nostra posizione: non possiamo in coscienza cedere alla loro richiesta.”

Il portavoce principale del Pentagono, Sean Parnell, ha dichiarato giovedì che il Dipartimento della Difesa non ha "alcun interesse" nell'utilizzare i modelli di Anthropic per armi completamente autonome o per condurre una sorveglianza di massa sui cittadini americani, attività che, ha sottolineato, è illegale. Ha ribadito che l'agenzia desidera che l'azienda acconsenta all'utilizzo dei suoi modelli per "tutti gli scopi leciti", definendola una "semplice richiesta di buon senso".

Tuttavia, il sottosegretario alla Difesa statunitenseMichaelha personalmente Amodei giovedì sera, scrivendo su X che il dirigente "non desidera altro che cercare di controllare personalmente le forze armate statunitensi". Michael ha aggiunto: "È un peccato che Dario Amodei sia un bugiardo e abbia un complesso di superiorità"

D'altro canto, in una lettera aperta, oltre 200 dipendenti di Google e OpenAI hanno appoggiato la posizione di Anthropic. Un ex funzionario del Dipartimento della Difesa ha inoltre dichiarato alla BBC che le giustificazioni addotte da Hegseth per l'utilizzo del termine "rischio della catena di approvvigionamento" erano "estremamente inconsistenti".

Nonostante il conflitto, Dario Amodei ha dichiarato nella sua nota di essere "profondamente convinto dell'importanza esistenziale dell'utilizzo dell'IA per difendere gli Stati Uniti". L'organizzazione è ancora "pronta a proseguire i colloqui e impegnata a garantire la continuità operativa per il Dipartimento e per i militari americani", ha affermato un rappresentante di Anthropic.