Il Pentagono intensifica i colloqui con le principali aziende di IA per l'implementazione di strumenti su sistemi classificati

Il Pentagono sta esercitando una forte pressione sulle principali aziende di intelligenza artificiale per garantire all'esercito degli Stati Uniti l'accesso ai loro strumenti all'interno di sistemi classificati.

I funzionari non chiedono solo un accesso di base. Vogliono che questi modelli di IA funzionino senza tutti i limiti solitamente imposti dalle aziende agli utenti.

Durante un incontro alla Casa Bianca martedì, Emil Michael, Chief Technology Officer del Pentagono, ha detto ai leader tecnologici che l'esercito vuole che questi modelli di IA funzionino su reti sia classificate che non classificate.

Un funzionario vicino ai colloqui avrebbe detto che il governo è ora determinato a ottenere ciò che definisce "capacità di IA di frontiera" a tutti i livelli dell'uso militare.

Il Pentagono richiede l'accesso senza restrizioni su reti sicure

Questa spinta fa parte di discussioni più ampie su come l'IA verrà utilizzata nei combattimenti futuri. Le guerre sono già plasmate da sciami di droni, robot e attacchi informatici incessanti. Il Pentagono non vuole rincorrere la tecnologia mentre il mondo tech traccia linee su ciò che è consentito.

Al momento, la maggior parte delle aziende che lavorano con il militare offre versioni diluite dei loro modelli. Questi funzionano solo su sistemi aperti e non classificati utilizzati per il lavoro amministrativo. Anthropic è l'unica eccezione.

Claude, il suo chatbot, può essere utilizzato in alcune impostazioni classificate, ma solo attraverso piattaforme di terze parti. Anche in quel caso, gli utenti governativi devono ancora seguire le regole di Anthropic.

Ciò che il Pentagono vuole è l'accesso diretto all'interno di reti classificate altamente sensibili. Questi sistemi sono utilizzati per cose come la pianificazione di missioni o la selezione dei bersagli. Non è chiaro quando o come chatbot come Claude o ChatGPT verrebbero installati su quelle reti, ma quello è l'obiettivo.

I funzionari credono che l'IA possa aiutare a elaborare enormi quantità di dati e a fornirli rapidamente ai decisori. Ma se quegli strumenti generano informazioni false, e lo fanno, le persone potrebbero morire. I ricercatori hanno avvertito proprio di questo.

OpenAI ha stretto un accordo con il Pentagono questa settimana. ChatGPT verrà ora utilizzato su una rete non classificata chiamata genai.mil. Questa rete raggiunge già oltre 3 milioni di dipendenti in tutto il Dipartimento della Difesa.

Come parte dell'accordo, OpenAI ha rimosso molti dei suoi limiti di utilizzo normali. Ci sono ancora alcune protezioni in atto, ma il Pentagono ha ottenuto la maggior parte di ciò che voleva.

Un portavoce dell'azienda ha dichiarato che qualsiasi espansione verso l'uso classificato richiederebbe un nuovo accordo. Google e xAI di Elon Musk hanno stipulato accordi simili in passato.

I ricercatori di IA stanno lasciando l'azienda e denunciando i rischi

I colloqui con Anthropic non sono stati facili. I leader dell'azienda hanno detto al Pentagono che non vogliono che la loro tecnologia venga utilizzata per il targeting automatico o per spiare le persone all'interno degli Stati Uniti.

Anche se Claude è già utilizzato in alcune missioni di sicurezza nazionale, i dirigenti dell'azienda stanno opponendo resistenza. In una dichiarazione, un portavoce ha detto:-

"Anthropic è impegnata a proteggere il vantaggio dell'America nell'IA e ad aiutare il governo degli Stati Uniti a contrastare le minacce straniere fornendo ai nostri combattenti l'accesso alle capacità di IA più avanzate."

Hanno detto che Claude è già in uso e che l'azienda sta ancora lavorando a stretto contatto con ciò che ora è chiamato Dipartimento della Guerra. Il presidente Donald Trump ha recentemente ordinato al Dipartimento della Difesa di adottare quel nome, ma il Congresso deve ancora approvarlo.

Mentre tutto questo accade, un gruppo di ricercatori di queste aziende se ne va. Uno dei principali ricercatori sulla sicurezza di Anthropic ha detto: "Il mondo è in pericolo", mentre si dimette. Un ricercatore di OpenAI se n'è andato anche lui, dicendo che la tecnologia ha "un potenziale di manipolazione degli utenti in modi per cui non abbiamo gli strumenti per comprendere, tantomeno prevenire".

Alcune delle persone che se ne vanno non lo fanno in silenzio. Stanno avvertendo che le cose si stanno muovendo troppo velocemente e che i rischi vengono ignorati. Zoë Hitzig, che ha lavorato per due anni a OpenAI, si è dimessa questa settimana.

In un saggio, ha detto di avere "profonde riserve" su come l'azienda sta pianificando di introdurre la pubblicità. Ha anche detto che ChatGPT memorizza i dati privati delle persone, cose come "paura medica, problemi di relazione, le loro credenze su Dio e l'aldilà".

Ha detto che questo è un enorme problema perché le persone si fidano del chatbot e non pensano che abbia motivi nascosti.

Intorno allo stesso tempo, il sito tecnologico Platformer ha riportato che OpenAI ha eliminato il suo team di allineamento della missione. Quel gruppo era stato istituito nel 2024 per assicurarsi che l'obiettivo dell'azienda di costruire un'IA che aiuti tutta l'umanità avesse davvero un significato.