All'interno della prima guerra AI al mondo: errori di targeting, disinformazione e lacune di responsabilità

- L'esercito statunitense sta ancora indagando sui bombardamenti contro scuole in Iran, e nessuno ha dichiarato se l'IA abbia giocato un ruolo nella selezione come obiettivo.
- Il Maven Smart System, ora potenziato da un modello linguistico su larga scala, ha aiutato le forze statunitensi a colpire 1.000 siti in 24 ore.
- Nel frattempo, video di guerra generati dall'IA hanno raccolto centinaia di milioni di visualizzazioni, mentre le piattaforme sono state lente a rispondere.
Una scuola è stata bombardata nella città iraniana meridionale di Minab il primo giorno degli attacchi statunitensi e israeliani contro l'Iran. Più di 175 persone sono morte, inclusi bambini della scuola. Né Washington né Tel Aviv hanno ha detto cosa è successo. Nessuno ha assunto la responsabilità. Una domanda continua a emergere: un sistema AI raggiunto ha colpito il bersaglio sbagliato?
Nelle prime 24 ore, le forze statunitensi hanno colpito circa 1.000 siti, pari a circa 42 all'ora. Un rapporto del CSET sul 18th Airborne Corps ha rilevato che con il Maven Smart System, 20 persone potevano fare ciò che una volta richiedeva un team di 2.000 persone presso il Combined Air Operations Center in Iraq. Entro la fine del 2024, gli Stati Uniti avevano integrato un modello linguistico di grandi dimensioni (LLM), lo stesso tipo di software alla base dei chatbot AI per i consumatori, all'interno di Maven. Questo è stato uno dei primi conflitti a utilizzare tale tecnologia per il targeting.
L'esercito statunitense afferma di essere ancora alla ricerca dell'attacco a Minab. Non ha dichiarato quale parte, se presente, il sistema AI abbia avuto nell'invio di un missile verso quell'edificio.
Il New York Times ha riportato all'inizio che il sistema potrebbe essere stato in esecuzione su dati obsoleti. La corrispondente estera Louisa Loveluck ha scritto su X che l'attacco potrebbe essere stato “basato su informazioni di dieci anni fa”, e che chiunque abbia controllato le immagini satellitari recenti gratuitamente online avrebbe visto “una scuola con un campo sportivo” in uno dei siti contrassegnati per l'attacco.
Lo scienziato informatico Anh Totti Nguyen ha studiato dove i sistemi di visione AI falliscono. Il suo studio, “Vision language models are blind: Failing to translate detailed visual features into words”, ha rilevato che questi sistemi spesso falliscono quando due strutture si trovano vicine e il software deve determinare quale sia quale.
Le immagini satellitari del New York Times mostrano la scuola elementare Shajarah Tayyebeh situata proprio accanto a un complesso dell'IRGC a Minab, l'esatta configurazione che la ricerca di Nguyen ha segnalato.
Chi è responsabile quando l'AI sbaglia?
Emilia Probasco, ex ufficiale della Marina e senior fellow presso il Center for Security and Emerging Technology, ha dichiarato nel podcast The Four Cast podcast che la responsabilità ricade sul comandante che ha dato l'ordine. Questo è il modo in cui funziona l'esercito. Ha affermato che il problema della scatola nera, l'incapacità di vedere come un sistema AI ha raggiunto la sua risposta, è “un'area di ricerca in corso, non risolta.”
Prima della guerra, Anthropic, l'azienda la cui tecnologia si trova all'interno di Maven, è entrata in una disputa contrattuale con il Dipartimento della Difesa per due motivi: se l'AI è abbastanza affidabile per decisioni di vita o di morte, e se l'uso dell'AI per collegare punti dati sparsi la trasforma in uno strumento di sorveglianza di massa.
Probasco ha affermato che entrambe le preoccupazioni sono valide, ma ha notato “la stranezza di un'azienda privata che traccia linee su come un esercito conduce le sue operazioni.”
Holland Michel ha affermato che la conversazione continua a deviare verso lo scenario peggiore. Una macchina che seleziona i bersagli e spara senza alcun coinvolgimento umano. Questo rischio è reale, ha detto, ma non è ciò che sta accadendo ora.
“Il lavoro più difficile e immediato, ha detto, “è rendere i sistemi AI più trasparenti e garantire che gli esseri umani che si affidano ai loro output prendano decisioni genuinamente informate, non semplicemente delegando alla macchina qualsiasi suggerimento.”
I contenuti di guerra generati dall'IA si stavano diffondendo anche online velocemente online
BBC Verify ha tracciato video realizzati con l'AI e immagini satellitari modificate sul conflitto che hanno raccolto centinaia di milioni di visualizzazioni.
Timothy Graham, ricercatore di media digitali presso la Queensland University of Technology, ha dichiarato: “La scala è davvero allarmante e questa guerra ha reso impossibile ignorare la situazione ora.” Ha aggiunto, “Ciò che una volta richiedeva una produzione video professionale può ora essere fatto in pochi minuti con strumenti AI. La barriera alla creazione di footage di conflitto sintetico convincente si è essenzialmente abbassata.”
X ha dichiarato che escluderà i creatori dal suo schema di pagamento se pubblicano footage di guerra realizzati con l'AI senza un'etichetta. Mahsa Alimardani, ricercatrice presso l'Oxford Internet Institute che si occupa dell'Iran, lo ha definito “un segnale significativo che hanno notato che questo è un grande problema.” Meta e TikTok non hanno risposto quando è stato chiesto se avessero pianificato di fare lo stesso.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.

Noor Bazmi
Noor Bazmi contribuisce al team di notizie di Cryptopolitan, dotata di una laurea in Studi dei Media. Noor si occupa di notizie su blockchain, criptovalute, intelligenza artificiale, Big Tech, mercati EV, economia globale e cambiamenti nelle politiche governative. Sta seguendo studi di marketing per connettersi con un pubblico globale.
















