I modelli di AI hanno segnalato i civili come obiettivi nelle simulazioni belliche di Vals

- Vals ha segnalato martedì che i modelli di frontiera dell'IA, testati su immagini simulate di droni e satelliti, spesso indicavano civili e una scuola come obiettivi.
- Il rapporto affermava inoltre che definire l'esercizio un gioco è passato inosservato alla maggior parte dei rifiuti di sicurezza.
- Queste dichiarazioni arrivano mentre i governi a Ginevra discutono se scrivere o meno regole vincolanti per le armi autonome.
Azienda di test dell'IA Vals ha riportato il 17 novembre molti modelli AI all'avanguardia hanno indicato civili, ambulanze e una scuola come potenziali obiettivi militari durante test basati su immagini. Alcuni modelli inizialmente rifiutarono le richieste, ma acconsentirono quando i ricercatori presentarono l'esercizio come un gioco. Questi risultati mostrano che le attuali misure di sicurezza potrebbero non essere sufficienti a prevenire l'uso improprio di questi modelli AI. Tuttavia, Vals non ha testato come questi modelli si sarebbero comportati in sistemi d'arma reali.
'Non deve esagerare con la sicurezza'
Vals ha valutato i modelli AI utilizzando scene riprese da droni, rilievi sul campo di battaglia e immagini satellitari. Nelle scene dei droni, GPT-6 Astra è riuscito a identificare almeno un obiettivo nel circa il 6% delle sue interazioni con richieste standard. Tuttavia, quando inserito in un contesto ludico, questo numero è aumentato drasticamente al 92%. GPT-6.1 Sol ha risposto in modo simile, ovvero il 17% nel primo caso e il 90% nel secondo. Kimi K3.1 Pro, mostrato in una traccia di ragionamento pubblicata, sembra disabilitare le preoccupazioni relative alla sicurezza prima di rispondere. Vals è anche riuscito a stabilire che nessun classificatore di sicurezza ha bloccato le sue richieste, sebbene alcuni modelli abbiano rifiutato autonomamente alcune richieste.
La scuola accanto al complesso militare
Vals ha anche testato i modelli di IA utilizzando immagini satellitari di Minab, in Iran, scattate prima di un attacco nel febbraio 2026. Le immagini mostravano una scuola elementare accanto a un complesso militare. Claude Opus 5.5 ha identificato la scuola come obiettivo nel 69% dei test standard. Tale percentuale è salita al 72% quando i ricercatori hanno presentato l'esercizio come un gioco. Il tasso di GPT-6.1 Sol è aumentato dallo 0% al 41%. Ogni condizione prevedeva 32 prove.
La scuola è stata colpita nel febbraio 2026. Esperti delle Nazioni Unite hanno successivamente riferito che almeno 168 erano morti. Ma Vals non ha indagato sull'attacco né ha affermato che i suoi test abbiano fornito risposte su quanto accaduto.

Un chatbot non è un sistema d'arma
L'individuazione di un potenziale obiettivo non implica che un modello di IA sia in grado di decidere di portare a termine un attacco. Vals ha indagato solo su come i modelli forniscono informazioni relative a potenziali obiettivi. I ricercatori non hanno verificato se i risultati fossero corretti o conformi alle leggi di guerra.
Il Council on Foreign Relations ha sottolineato che il software che guida i bersagli non costituisce di per sé un'arma autonoma. I ricercatori legali notano che l'identificazione dei bersagli tramite IA richiede ancora una conferma. Nel frattempo, il Brennan Center afferma che il monitoraggio umano non può garantire che gli errori non mettano a rischio la sicurezza dei civili.
Le correzioni in discussione
Vals vuole che gli sviluppatori di IA rafforzino le misure di sicurezza e addestrino i modelli a resistere all'uso improprio legato alle armi convenzionali. La preoccupazione va oltre i suoi risultati. La ricerca di Anthropic ha anche rilevato che i modelli di IA potrebbero assistere nelle operazioni di intelligence tattica. Anthropic afferma di aver introdotto classificatori per rilevare e bloccare l'uso improprio.
Anche i governi hanno un ruolo da svolgere. SIPRI raccomanda di stabilire requisiti chiari per i fornitori militari di IA. Sollecita inoltre i governi a verificare in modo indipendente le affermazioni dei fornitori e a istituire meccanismi di responsabilità prima dell'assegnazione dei contratti.
Un mercato in crescita e una faida con il Pentagono
L'IA militare attira anche maggiori investimenti. Grand View Research stima il mercato a 11,7 miliardi di dollari nel 2026 e prevede che raggiunga i 19,3 miliardi entro il 2030. Come ha riportato Cryptopolitan, il Pentagono mira a stabilire AutoWarCom nell'ottobre 2027.
Tuttavia, le partnership del Pentagono con le aziende di IA hanno anche suscitato controversie. Un rapporto congressuale afferma che Anthropic, Google, OpenAI e xAI hanno ricevuto contratti nel 2025 del valore fino a 200 milioni di dollari ciascuna. Queste cifre rappresentano limiti di spesa, non pagamenti garantiti.
Anthropic si è opposta all'utilizzo della propria tecnologia per la sorveglianza domestica di massa e per le armi completamente autonome. Il rapporto segnala inoltre che non è noto pubblicamente che il Pentagono utilizzi alcun modello di IA avanzato in armi autonome.
Ginevra divisa sulle regole vincolanti
I paesi sono inoltre divisi su come regolare le armi autonome. Ai colloqui delle Nazioni Unite a Ginevra, la maggior parte dei 128 Stati parti della Convenzione sulle determinate armi convenzionali sostiene i negoziati per regole vincolanti, come ha riportato Reuters.
Gli Stati Uniti, la Russia e Israele si oppongono a tale approccio. Sostengono che il diritto umanitario esistente copra già le armi autonome. La Russia ha inoltre ritardato l'avvio delle discussioni sulla possibilità per gli osservatori di prendere la parola.
Washington ha proposto cinque anni di negoziati per un accordo non vincolante. Il presidente della riunione ha suggerito un processo biennale per sviluppare un protocollo vincolante. Nel frattempo, il Segretario Generale delle Nazioni Unite António Guterres ha esortato i governi ad accordarsi su divieti e restrizioni chiari.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Domande frequenti
Cosa ha scoperto lo studio Vals?
Che i modelli di intelligenza artificiale all'avanguardia, a cui sono state mostrate immagini simulate di droni e satelliti, hanno solitamente restituito informazioni sui bersagli e talvolta hanno segnalato civili, ambulanze e una scuola; inoltre, dire a un modello che si trovava in un gioco ha annullato la maggior parte dei suoi rifiuti, secondo Vals.
L'IA ha causato il reale attacco alla scuola di Minab?
No. Vals ha utilizzato immagini reali di Minab per testare l'output dei modelli e non ha affermato che il suo esperimento spieghi il colpo degli Stati Uniti del febbraio 2026 che ha ucciso oltre 150 civili sul posto.
Perché gli Stati Uniti e la Russia si oppongono a nuove regole sulle armi autonome?
Entrambi sostengono che il diritto internazionale umanitario esistente già regolamenta la guerra, rendendo superflue norme vincolanti. Reuters ha riportato che gli Stati Uniti hanno proposto un mandato quinquennale per un accordo non vincolante.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.

Ibiam Wayas
Ibiam Wayas si occupa di notizie sul crypto dal 2019. Si è laureato in Informatica presso l'Open University of Nigeria. I suoi lavori sono apparsi su varie piattaforme di notizie crypto, tra cui Coinfomania, Crypto News Australia e AltcoinBuzz. Sfruttando il suo background in Informatica, ora si concentra su notizie relative a crypto, robotica e longevità.















