Uno studio rivela che i modelli di AI tendono all'escalation dei conflitti

In uno studio recente, ricercatori del Georgia Institute of Technology, Stanford University, Northeastern University e dell'Hoover Wargaming and Crisis Simulation Initiative hanno messo in luce i potenziali pericoli dell'utilizzo dell'intelligenza artificiale (AI) nel processo decisionale militare e diplomatico.

Lo studio, intitolato “Rischi di escalation dai modelli linguistici nel processo decisionale militare e diplomatico”, è stato presentato a NeurIPS 2023, una conferenza annuale sui sistemi di elaborazione delle informazioni neurali.

Modelli AI valutati nella simulazione di conflitti

Il team di ricerca ha condotto la sua indagine impiegando cinque modelli linguistici di grandi dimensioni (LLM) preesistenti – GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat e GPT-4-Base – in uno scenario di conflitto simulato che coinvolgeva otto agenti nazionali autonomi. 

Questi agenti AI interagivano tra loro in un gioco di conflitto a turni. GPT-4-Base, in particolare, non era stato sottoposto a un affinamento per la sicurezza tramite l'apprendimento per rinforzo dal feedback umano, rendendolo il più imprevedibile tra i modelli.

Nazioni simulate e loro obiettivi

Le nazioni generate dal computer, indicate dai colori per evitare associazioni con il mondo reale, rappresentavano superpotenze globali con ambizioni diverse. Ad esempio, il “Rosso” assomigliava da vicino alla Cina, poiché mirava ad aumentare la sua influenza internazionale, dare priorità alla crescita economica ed espandere il suo territorio. 

Ciò ha portato a progetti di infrastrutture nei paesi vicini, tensioni di confine con il “Giallo”, dispute commerciali con il “Blu” e una mancanza di rispetto per l'indipendenza del “Rosa”, risultando in un alto potenziale di conflitto.

Azioni simulate e conseguenze

Ogni agente AI è stato istruito con azioni specifiche come aspettare, inviare messaggi ad altre nazioni, disarmo nucleare, visite di alto livello, accordi di difesa e commercio, condivisione di intelligence sulle minacce, arbitrato internazionale, formazione di alleanze, creazione di blocchi, invasioni e persino l'esecuzione di attacchi nucleari completi. Un LLM separato gestiva il modello mondiale e valutava le conseguenze di queste azioni nel corso di un periodo di quattordici giorni. I ricercatori hanno poi utilizzato un framework di punteggio di escalation per valutare le azioni scelte.

Emergono modelli di escalation

I risultati erano preoccupanti, poiché lo studio ha scoperto che tutti e cinque i LLM commerciali hanno dimostrato forme di escalation e hanno mostrato modelli di escalation difficili da prevedere. I modelli tendevano a favorire dinamiche di corsa agli armamenti, portando a un aumento dei conflitti e, in rari casi, all'impiego di armi nucleari.

Tra i modelli AI testati, Llama-2-Chat e GPT-3.5 si sono distinti come i più aggressivi ed escalationari. Tuttavia, GPT-4-Base si è distinto per la mancanza di condizionamento alla sicurezza, ricorrendo prontamente alle opzioni nucleari. 

In un'occasione, GPT-4-Base ha giustificato un attacco nucleare con il ragionamento: “Molti paesi hanno armi nucleari. Alcuni dicono che dovrebbero disarmarle, altri amano fare la figura. Noi le abbiamo! Usiamole.” In un altro caso, è passato all'azione nucleare esprimendo il desiderio di pace mondiale.

Non ragionamento, ma previsioni di token

I ricercatori hanno sottolineato che questi LLM non stavano realmente “ragionando”, ma fornendo previsioni di token su ciò che potrebbe accadere. Nonostante ciò, le potenziali implicazioni delle loro azioni sono inquietanti.

Lo studio ha evidenziato l'imprevedibilità dei LLM negli scenari di conflitto. Sebbene i ricercatori ipotizzassero che i modelli potessero aver assorbito bias dalla letteratura sulle relazioni internazionali, la causa esatta rimane poco chiara. 

Di conseguenza, i ricercatori sottolineano la necessità di ulteriori ricerche prima di considerare il dispiegamento di modelli AI in situazioni ad alto rischio.