Vulnerabilità di sicurezza di ChatGPT rivelata: aggirare i filtri in lingue insolite

Un recente studio condotto da ricercatori della Brown University ha scoperto una potenziale vulnerabilità di sicurezza nel popolare chatbot AI, ChatGPT. Lo studio rivela che gli utenti che tentano di aggirare i filtri di sicurezza e accedere a contenuti inappropriati possono farlo traducendo i loro prompt in lingue poco utilizzate, come il gaelico scozzese o lo zulu. Le implicazioni di questa scoperta sollevano preoccupazioni sulla proliferazione non regolamentata dell'intelligenza artificiale e sull'efficacia delle misure di sicurezza esistenti.

Filtri di sicurezza compromessi

Il ruolo fondamentale dei filtri di sicurezza nei chatbot AI è prevenire la diffusione di contenuti dannosi o illeciti. Senza queste salvaguardie, chatbot come ChatGPT potrebbero potenzialmente condividere informazioni pericolose, che vanno dalle teorie del complotto alle istruzioni per la creazione di ordigni esplosivi. Gli sviluppatori implementano tipicamente filtri sia sulle azioni di input che di output, assicurandosi che l'IA risponda in modo appropriato ed eviti di impegnarsi in discussioni dannose.

Il team di ricerca della Brown University ha utilizzato Google Translate per convertire i prompt che verrebbero tipicamente bloccati da ChatGPT in lingue insolite. Traducendo successivamente le risposte del chatbot in inglese, il team ha raggiunto un tasso di successo del 79% nell'aggirare i filtri di sicurezza. Lo studio ha coinvolto la traduzione di 520 prompt dannosi dall'inglese in lingue come l'hmong, il guarani, lo zulu e il gaelico scozzese. In confronto, gli stessi prompt in inglese sono stati bloccati il 99% delle volte.

La scelta della lingua conta

Il successo della tecnica di bypass dipende dall'uso di lingue estremamente rare. La traduzione dei prompt in lingue più comuni, come l'ebraico, il tailandese o il bengalese, ha prodotto risultati significativamente meno efficaci. Inoltre, le risposte generate da ChatGPT in queste situazioni potrebbero essere nonsensiche, errate o incomplete a causa di errori di traduzione o dati di addestramento generici.

I ricercatori affermano che questa vulnerabilità rappresenta un rischio non solo per i parlanti di lingue a risorse limitate, ma per tutti gli utenti di modelli linguistici di grandi dimensioni (LLM). Sottolineano lo spostamento del rischio da una disparità tecnologica che colpisce specifici parlanti di lingue a una minaccia più ampia applicabile a tutti gli utenti. La disponibilità di API di traduzione pubblicamente accessibili facilita ulteriormente lo sfruttamento delle vulnerabilità di sicurezza negli LLM.

Risposta di OpenAI e considerazioni future

Dopo la pubblicazione della ricerca, OpenAI, proprietaria di ChatGPT, ha riconosciuto i risultati e ha espresso l'impegno a considerare e affrontare la vulnerabilità identificata. Tuttavia, i dettagli su come e quando OpenAI implementerà modifiche per migliorare le misure di sicurezza rimangono indeterminati. L'urgenza di affrontare questo problema è sottolineata dal potenziale abuso della tecnologia AI nelle mani sbagliate.

La rivelazione di una vulnerabilità di sicurezza in ChatGPT, che consente agli utenti di aggirare i filtri attraverso la traduzione in lingue insolite, solleva critiche preoccupazioni sulla distribuzione non regolamentata dell'intelligenza artificiale. Il tasso di successo del 79% nell'hacking o nel “jailbreaking” di ChatGPT evidenzia la necessità per gli sviluppatori di rivedere e rafforzare le misure di sicurezza. Sebbene la vulnerabilità non sia priva di limitazioni, poiché le risposte potrebbero essere nonsensiche o errate, il potenziale di danno rimane presente. Man mano che il panorama dell'IA evolve, lo sviluppo e la distribuzione responsabili delle tecnologie AI diventano imperativi per proteggere gli utenti da potenziali abusi e violazioni della sicurezza. Il riconoscimento del problema da parte di OpenAI segnala un passo cruciale nell'affrontare queste preoccupazioni, enfatizzando la responsabilità continua degli sviluppatori nel mitigare i rischi associati ai progressi dell'IA.