Pentagono e Anthropic si scontrano sull'uso militare dell'AI sotto un contratto da 200 milioni di dollari

Il Pentagono e Anthropic sono in uno scontro diretto su come l'intelligenza artificiale può essere utilizzata dall'esercito degli Stati Uniti.

Il conflitto ruota attorno a salvaguardie che impedirebbero al governo di utilizzare l'AI per mirare autonomamente alle armi o per condurre sorveglianza all'interno degli Stati Uniti. La disputa è contenuta in un contratto del valore fino a 200 milioni di dollari e ha ora bloccato i colloqui.

Questa disputa è diventata un test iniziale di quanto influenza abbia davvero Silicon Valley a Washington dopo anni di tensioni.

I funzionari della difesa e dell'intelligence vogliono la libertà di impiegare strumenti AI più potenti nel combattimento e nel lavoro di sicurezza. I leader tecnologici vogliono limiti. I colloqui sono trascinati da mesi e ora hanno raggiunto un punto morto.

Il Pentagono procede mentre Anthropic si oppone all'uso delle armi

Dopo lunghe negoziazioni, il Dipartimento della Difesa degli Stati Uniti e Anthropic sono in stallo. Sei persone informate sui colloqui hanno dichiarato che nessuna delle due parti ha fatto passi avanti. Lo scontro si è fatto più aspro durante il secondo mandato del presidente Donald Trump, con disaccordi all'interno dell'amministrazione che ora trapelano alla vista pubblica.

In una dichiarazione, Anthropic ha affermato che la sua tecnologia è "ampiamente utilizzata per missioni di sicurezza nazionale dal governo degli Stati Uniti e siamo in discussioni produttive con il Dipartimento della Guerra sui modi per continuare questo lavoro". Allo stesso tempo, i rappresentanti dell'azienda hanno dichiarato ai funzionari che temono che gli strumenti potrebbero essere utilizzati per spiare gli americani o aiutare le armi a colpire obiettivi senza un controllo umano sufficiente.

I leader del Pentagono hanno respinto quei limiti. Hanno fatto riferimento a un memo del 9 gennaio sulla strategia AI che stabilisce che l'esercito dovrebbe essere libero di utilizzare sistemi AI commerciali purché la legge venga rispettata. I funzionari hanno affermato che le regole private non dovrebbero decidere le scelte sul campo di battaglia.

Tuttavia, il Pentagono ha ancora bisogno che Anthropic proceda. I modelli sono costruiti per evitare azioni che potrebbero causare danni. Gli ingegneri dell'azienda dovrebbero regolare i sistemi prima che l'esercito potesse utilizzarli nel modo desiderato.

Il punto morto mette a rischio il business della difesa di Anthropic in un momento delicato. La startup di San Francisco si sta preparando per un futuro offerta pubblica iniziale. Ha speso molto per vincere lavori di sicurezza nazionale degli Stati Uniti e per plasmare la politica federale sull'AI dall'interno.

Anthropic è anche una delle poche aziende selezionate dal Pentagono lo scorso anno. Altre includono Google, xAI di Elon Musk e OpenAI. Queste aziende si trovano ora al centro dei piani militari statunitensi per l'AI.

La cautela di Anthropic ha già causato attriti con l'amministrazione Trump. In un post sul blog questa settimana, l'CEO Dario Amodei ha avvertito che l'AI dovrebbe sostenere la difesa nazionale "in tutti i modi tranne quelli che ci renderebbero più simili ai nostri avversari autocratici".

Dario si è anche espresso sull'uso della forza da parte del governo a livello interno. Dopo le sparatorie fatali di cittadini statunitensi durante le proteste sull'immigrazione a Minneapolis, ha descritto le morti come un "orrore" in un post su X.