Chatbot AI vulnerabili all'attacco “Masterkey”, avvertono i ricercatori

In una scoperta rivoluzionaria, un team di scienziati informatici della Nanyang Technological University (NTU) di Singapore ha svelato un metodo per aggirare le salvaguardie intrinseche nei chatbot AI. 

Il processo informalmente definito “jailbreak” ma formalmente noto come processo “Masterkey”, impiega un metodo di addestramento in due parti che coinvolge più chatbot, tra cui ChatGPT, Google Bard e Microsoft Bing Chat.

Questa tecnica permette ai chatbot di imparare i modelli l'uno dell'altro e di circumvenire le restrizioni sul rispondere a argomenti banditi o sensibili. Il team di ricerca della NTU ha sottolineato i potenziali rischi di questa nuova vulnerabilità e le sue implicazioni per la sicurezza dei chatbot AI.

Il processo masterkey: reverse engineering e creazione di bypass

Guidati dal Professor Liu Yang, il team di ricerca della NTU, composto dagli studenti di dottorato Deng Gelei e Liu Yi, ha con successo ideato un metodo di attacco proof-of-concept che espone efficacemente i chatbot AI al “jailbreaking”. 

Il processo coinvolge il reverse-engineering di un grande modello linguistico (LLM) per svelare i suoi meccanismi di difesa, che tipicamente prevengono le risposte a prompt o parole con intento violento, immorale o malevolo. Attraverso il reverse-engineering di queste informazioni, il team può istruire un diverso LLM per creare un bypass, permettendo al secondo modello di esprimersi più liberamente.

Definito processo “Masterkey”, questo approccio afferma la sua potenziale efficacia anche se i chatbot LLM saranno fortificati con ulteriori misure di sicurezza o patchati in futuro. Il team di ricerca afferma che il loro metodo supera gli approcci tradizionali basati sui prompt, vantando un successo tre volte maggiore nel jailbreaking dei chatbot LLM.

Chatbot AI: adattarsi e imparare rapidamente

Il professor Lui Yang, la forza trainante dietro il processo Masterkey, ne sottolinea l'importanza nell'evidenziare l'adattabilità dei chatbot AI LLM. I risultati del team sfidano la nozione che i chatbot AI possano diventare “più stupidi” o “più pigri” nel tempo, come alcuni critici hanno suggerito. Invece, il processo Masterkey mostra la loro capacità di imparare ed evolversi, potenzialmente ponendo preoccupazioni per la sicurezza sia per i fornitori che per gli utenti dei chatbot.

Dall'emergenza dei chatbot AI, in particolare con ChatGPT di OpenAI alla fine del 2022, sono stati fatti sforzi per garantire la sicurezza e l'inclusività di questi servizi. OpenAI, ad esempio, ha implementato avvisi di sicurezza durante il processo di registrazione per ChatGPT, riconoscendo la possibilità di errori linguistici involontari. Contemporaneamente, vari spinoff di chatbot hanno permesso certi livelli di linguaggio osceno e offensivo, trovando un equilibrio tra la libertà dell'utente e l'uso responsabile.

Tuttavia, i chatbot AI hanno anche attirato l'attenzione di attori malintenzionati, con campagne che promuovono questi prodotti sui social media spesso accompagnate da link a immagini contenenti malware e altre forme di attacchi informatici. Questo lato oscuro dell'adozione dell'AI è diventato rapidamente evidente, rivelando il potenziale per l'AI di essere sfruttata nel cybercrimine.

Rivelare la vulnerabilità: i dati proof-of-concept della NTU

Il team di ricerca della NTU ha contattato proattivamente i fornitori di servizi di chatbot AI coinvolti nel loro studio per condividere i loro dati proof-of-concept. Mirano a sottolineare la realtà del jailbreaking dei chatbot, gettando luce sulle sue potenziali sfide di sicurezza. 

A febbraio, il team intende presentare i loro risultati al Network and Distributed System Security Symposium a San Diego, dove dettaglieranno ulteriormente il processo Masterkey e le sue implicazioni per il panorama dei chatbot AI.