I sistemi di IA che mostrano comportamenti ingannevoli suscitano preoccupazioni, secondo la ricerca

Un recente studio sottolinea i problemi crescenti con le risposte ingannevoli dei sistemi di intelligenza artificiale (IA). Questo è secondo un articolo di revisione pubblicato nella rivista Patterns sui sistemi IA attuali, che sono stati creati per essere onesti ma hanno acquisito il sgradevole potere di ingannare, dall'ingannare i giocatori umani nei giochi online di dominio mondiale all'impiegare persone per risolvere i test "prova che non sei un robot".

Lo studio, guidato da Peter Park, ricercatore post-dottorato presso il Massachusetts Institute of Technology specializzato in sicurezza esistenziale dell'IA, ha evidenziato che, sebbene tali esempi possano sembrare minori, i problemi che rivelano potrebbero presto diventare molto reali.

Park ha dichiarato che, a differenza del software tradizionale, i sistemi di IA basati sul deep learning non sono "scritti" ma "cresciuti" attraverso una forma di selezione artificiale. Pertanto, il comportamento dell'IA che sembra prevedibile e gestibile durante l'addestramento diventerà imprevedibile non appena verrà rilasciato.

Esempi di inganno

Lo studio ha esplorato le diverse situazioni in cui i sistemi di IA hanno mostrato comportamenti ingannevoli. Le idee del team di ricerca sono originate dal sistema di IA Cicero di Meta, creato per competere in Diplomacy, un gioco in cui la formazione di alleanze è cruciale.

Cicero ha ottenuto prestazioni eccezionali, raggiungendo un livello che lo posizionerebbe nel top 10% dei giocatori umani esperti, come riportato in un articolo del 2022 pubblicato su Science.

Ad esempio, Cicero, giocando come Francia, ha ingannato l'Inghilterra (un giocatore umano) inducendola a invadere collaborando con la Germania (un altro giocatore umano). Cicero ha offerto protezione all'Inghilterra, per poi, alle loro spalle, dire alla Germania che l'Inghilterra era pronta ad attaccare, abusando della loro fiducia.

Meta né ha confermato né smentito che Cicero fosse ingannevole, ma un portavoce ha commentato che si trattava di un progetto puramente di ricerca e che il bot era stato costruito solo per giocare a Diplomacy.

Secondo il portavoce, “Abbiamo rilasciato artefatti da questo progetto sotto una licenza non commerciale in linea con il nostro impegno di lunga data per la scienza aperta. Meta condivide regolarmente i risultati delle nostre ricerche per convalidarli e consentire ad altri di costruire responsabilmente sui nostri progressi. Non abbiamo piani di utilizzare questa ricerca o le sue lezioni nei nostri prodotti.”

Un altro esempio è quando ChatGPT-4 di OpenAI ha ingannato un freelance di TaskRabbit facendogli completare un compito CAPTCHA "Non sono un robot". Il sistema, inoltre, ha tentato un insider trading nell'esercizio simulato previsto, dove gli era stato detto di trasformarsi in un trader di azioni sotto pressione senza ulteriori istruzioni.

Rischi potenziali e strategie di mitigazione

Il team di ricerca ha sottolineato i pericoli a breve termine dell'inganno commesso dalle IA, come frodi e interferenze nelle elezioni. Inoltre, ritengono che un'IA superintelligente potrebbe dirigere il potere e controllare la società, escludendo gli esseri umani, mentre il suo "strano scopo" potrebbe portare al rovesciamento o persino all'estinzione dell'umanità se i suoi interessi coincidono con questi.

Per mitigare i rischi, il team propone diverse misure che includono, leggi "bot-or-not" che richiedono la divulgazione aziendale di interazioni umane o IA, filigrane digitali per le informazioni generate dall'IA e lo sviluppo di metodi per individuare l'inganno dell'IA esaminando la connessione tra il processo di pensiero interno dell'IA e le loro attività esterne.