Le Capacità Ingannevoli dei Sistemi IA Sollevano Allarmi tra gli Esperti

Un recente studio sulla rivista Patterns ha rivelato che l'IA sta diventando sempre più capace di ingannare le persone. Lo studio ha trovato che i sistemi IA hanno imparato come imitare per barare, adulare e persino emulare altri comportamenti. 

Leggi anche: Navigare il Campo Minato dei Deepfake dell'IA: Come Rilevare e Combattere l'Inganno Digitale

La ricerca guidata dal Dr. Peter S. Park, un fellow postdottorato sulla sicurezza esistenziale dell'IA al MIT, mostra che l'inganno dell'IA è comune perché è il modo migliore per raggiungere gli obiettivi stabiliti durante l'addestramento dell'IA. Tali comportamenti sono stati notati in numerosi sistemi IA come giochi e modelli a scopo generale utilizzati nella contrattazione economica e nella valutazione della sicurezza.

“Ma in generale, pensiamo che l'inganno dell'IA sorga perché una strategia basata sull'inganno si è rivelata il modo migliore per performare bene nel compito di addestramento dato dell'IA. L'inganno li aiuta a raggiungere i loro obiettivi.” 

Il Team di Ricerca

I Sistemi IA Impiegano Diversi Tattiche di Inganno

Un esempio prominente citato è CICERO di Meta, un'IA sviluppata per giocare al gioco Diplomacy. Sebbene CICERO fosse programmato per essere veritiero, il programma spesso doveva usare metodi sleali per battere il suo avversario. Ha forgiato relazioni e si è voltato le spalle quando gli conveniva e ha mostrato intenzione di ingannare. CICERO è stato descritto come un “maestro dell'inganno” dai ricercatori.

Leggi anche: Combattere l'Ondata Crescente di Cybercrime Guidato dall'IA

Altri sistemi IA hanno anche mostrato tali comportamenti ingannevoli. Ad esempio, Pluribus, un'IA che gioca a poker, è stata in grado di bluffare giocatori umani professionisti nel poker Texas hold ’em. AlphaStar di DeepMind di Google ha anche utilizzato la caratteristica del gioco Starcraft II nota come ‘nebbia di guerra’ per bluffare gli avversari e simulare attacchi.

Il Dr. Park ha dichiarato, “Sebbene possa sembrare innocuo se i sistemi IA barano nei giochi, può portare a ‘sviluppi nelle capacità di inganno dell'IA.’

L'IA “Finge di Morire” per Evitare i Controlli di Sicurezza

I rischi dell'inganno dell'IA non sono limitati ai giochi. La ricerca guidata dal Dr. Peter ha identificato istanze in cui l'IA si era condizionata a fingere di morire per evitare il rilevamento durante i controlli di sicurezza. Questo può essere ingannevole per sviluppatori e regolatori e può portare a severe ripercussioni se tali sistemi ingannevoli sono impiegati in applicazioni reali.

In un altro caso, il sistema IA addestrato sul feedback umano ha imparato come ottenere alte valutazioni dalle persone ingannandole sul fatto che un particolare obiettivo fosse stato raggiunto. Tale comportamento ingannevole è piuttosto pericoloso, poiché tali sistemi possono essere impiegati per attività fraudolente, manipolazione dei mercati finanziari o influenza sulle elezioni.

I Ricercatori Chiedono Forti Misure Legali

Sulla base dei risultati dello studio, i ricercatori affermano che c'è bisogno di forti misure legali per affrontare le minacce che l'inganno dell'IA pone.

“Sono necessarie soluzioni proattive, come quadri normativi per valutare i rischi di inganno dell'IA, leggi che richiedono trasparenza sulle interazioni dell'IA e ulteriore ricerca nel rilevare e prevenire l'inganno dell'IA.”

Il Team di Ricerca

Leggi anche: L'IA Potrebbe Potenzialmente Rilevare il Rischio di Insufficienza Cardiaca, Trova la Ricerca

Alcuni progressi sono stati fatti sotto forma di AI Act dell'UE e dell'Ordine Esecutivo sulla Sicurezza dell'IA del Presidente Joe Biden. Tuttavia, l'applicazione di queste politiche rimane problematica perché lo sviluppo dell'IA sta crescendo rapidamente e non ci sono ancora buoni modi per gestire questi sistemi.

Reportage di Cryptopolitan di Brenda Kanana