Anthropic sfida l'ultimatum brutale del Pentagono per rimuovere le salvaguardie AI

Anthropic ha ha non indietreggerà in una lotta con il Dipartimento della Difesa degli Stati Uniti (DoD) su come la sua tecnologia di intelligenza artificiale (AI) viene utilizzata.

I rivali della startup OpenAI, Google e xAI hanno anche ricevuto premi contrattuali fino a 200 milioni di dollari dal Dipartimento della Difesa (DoD) lo scorso anno. Queste aziende hanno accettato di consentire al DoD di utilizzare i loro modelli per tutti gli scopi leciti all'interno dei sistemi non classificati dell'esercito.

Anthropic ha firmato il proprio contratto da 200 milioni di dollari con il DoD a luglio, ed è stato il primo laboratorio a integrare i suoi modelli nei flussi di lavoro di missione su reti classificate.

Tuttavia, la startup di intelligenza artificiale è stata impegnata in negoziazioni tese con il Pentagono nelle ultime settimane. Una persona a conoscenza delle negoziazioni ha detto che le tensioni “risalgono a diversi mesi”, prima che fosse pubblicamente noto che Claude è stato utilizzato come parte di un'operazione degli Stati Uniti per catturare il presidente venezuelano Nicolás Maduro.

Il nucleo della controversia oltre sorveglianza e armi autonome armi

Anthropic vuole assicurazioni che i suoi modelli non saranno utilizzati per armi completamente autonome o per la sorveglianza domestica di massa degli americani, mentre il DoD vuole essere in grado di utilizzare i modelli senza quelle restrizioni.

Riguardo a questi rischi specifici, Dario Amodei ha dichiarato nel suo comunicato: “in un insieme ristretto di casi, crediamo che l'IA possa minare, piuttosto che difendere, i valori democratici. Alcuni usi sono anche semplicemente al di fuori dei limiti di ciò che la tecnologia odierna può fare in modo sicuro e affidabile.”

Approfondendo le preoccupazioni sulla sorveglianza, Dario Amodei ha detto nel suo statement che un'AI potente rende possibile “assemblare questi dati sparsi, individualmente innocui, in un quadro completo della vita di qualsiasi persona, automaticamente e su scala massiva.”

Ha notato che mentre Anthropic supporta l'uso dell'AI per l'intelligence straniera lecita, “l'uso di questi sistemi per la sorveglianza domestica di massa è incompatibile con i valori democratici.”

Minacce, scadenze e una guerra di parole

Il Segretario alla Difesa Pete Hegseth, che ha incontrato Amodei al Pentagono martedì, ha minacciato di etichettare Anthropic come “rischio della catena di approvvigionamento” o di invocare il Defense Production Act per costringere l'azienda a conformarsi alle sue richieste. Il DoD ha inviato ad Anthropic la sua “offerta finale e definitiva” mercoledì sera, dando all'azienda fino alle 17:01 ET di venerdì per decidere.

Una portavoce di Anthropic ha detto che sebbene l'azienda abbia ricevuto una formulazione aggiornata mercoledì sera, questa rappresentava “praticamente nessun progresso” e che “un nuovo linguaggio che inquadrava uncompromesso era accompagnato da un gergo legale che avrebbe permesso di ignorare queste salvaguardie a piacimento.”

Affrontando queste pressioni, Dario Amodei ha detto nel suo statement: “Il Dipartimento della Guerra ha affermato che contratterà solo con aziende AI che acconsentono a ‘qualsiasi uso lecito’ e rimuovono le salvaguardie nei casi menzionati sopra. Hanno minacciato di rimuoverci dai loro sistemi se manteniamo queste salvaguardie; hanno anche minacciato di designarci come ‘rischio della catena di approvvigionamento … Indipendentemente da ciò, queste minacce non cambiano la nostra posizione: non possiamo in buona coscienza acconsentire alla loro richiesta.”

Il Portavoce Capo del Pentagono Sean Parnell ha detto giovedì che il DoD ha “nessun interesse” nell'utilizzare i modelli di Anthropic per armi completamente autonome o per condurre sorveglianza di massa degli americani, cosa che ha notato è illegale. Ha sottolineato che l'agenzia vuole che l'azienda accetti di consentire l'uso dei suoi modelli per “tutti gli scopi leciti”, definendolo una “richiesta semplice e di buon senso.”

Tuttavia, il Sottosegretario alla Difesa Emil Michael ha attaccato personalmente Amodei giovedì sera, scrivendo su X che l'esecutivo “non vuole nient'altro che cercare di controllare personalmente l'Esercito degli Stati Uniti.” Michael ha aggiunto: “È un peccato che Dario Amodei sia un bugiardo e abbia una complesso di Dio.”

D'altra parte, in una lettera aperta, oltre 200 lavoratori di Google e OpenAI hanno sostenuto la posizione di Anthropic. Un ex funzionario del DoD ha anche detto alla BBC che le giustificazioni di Hegseth per l'uso del termine “rischio della catena di approvvigionamento” erano “estremamente fragili.”

Nonostante il conflitto, Dario Amodei ha dichiarato nel suo statement che è “profondamente [preoccupato per] l'importanza esistenziale dell'uso dell'AI per difendere gli Stati Uniti.” L'organizzazione è ancora “pronta a continuare i colloqui e impegnata per la continuità operativa per il Dipartimento e per i combattenti americani”, ha detto un rappresentante di Anthropic.