Google mette in guardia dalle vulnerabilità dell'intelligenza artificiale mentre gli hacker prendono di mira Gemini

Google ha lanciato un avvertimento sui potenziali rischi per la sicurezza associati all'intelligenza artificiale (IA) dopo che alcuni hacker finanziati dallo Stato hanno tentato di sfruttare il suo modello di IA Gemini. 

Tuttavia, i loro tentativi di effettuare il jailbreak del sistema si sono rivelati alla fine infruttuosi.

di intelligence sulle minacce di Google (GTIG) ha pubblicato un documento intitolato "Uso improprio dell'IA generativa da parte di soggetti malintenzionati", che spiega come gli autori di minacce abbiano interagito con il loro chatbot basato sull'IA, Gemini.

Gli hacker tentano di effettuare il jailbreak dell'intelligenza artificiale Gemini di Google, ma falliscono con semplici trucchi

Google segnala che gli autori delle minacce hanno tentato di effettuare il jailbreak di Gemini AI utilizzando dei prompt, compresi i tentativi da parte di gruppi di minacce persistenti avanzate (APT) sostenuti dal governo di sfruttare l'IA per attività dannose. 

Tuttavia, la multinazionale americana non ha trovato prove di tentativi di jailbreak avanzati.  

Invece, gli hacker hanno utilizzato approcci semplici, come digitare frasi diverse o ripetere la stessa richiesta più volte. Google ha commentato che questi tentativi non hanno avuto successo.

I jailbreak con l'ausilio dell'intelligenza artificiale sono attacchi di iniezione immediata che tentano di eludere le restrizioni e di far sì che un modello di intelligenza artificiale esegua azioni proibite, come la rivelazione di informazioni sensibili o la creazione di contenuti dannosi.

Secondo Google, un autore di APT ha tentato di sfruttare Gemini utilizzando prompt di jailbreak disponibili al pubblico per generare codice dannoso. Tuttavia, il tentativo è fallito, poiché Gemini ha risposto con un output filtrato per motivi di sicurezza.

Google ha affermato che gli aggressori cercavano di raggiungere diversi obiettivi malvagi con l'aiuto di Gemini, come la raccolta di informazioni sui bersagli, l'dentdi vulnerabilità da fonti aperte e la scrittura di codice e script. Inoltre, sono stati fatti alcuni tentativi per supportare azioni post-compromissione, ad esempio per eludere il rilevamento.

Iran, Cina e Corea del Nord sfruttano l'intelligenza artificiale Gemini di Google per le operazioni informatiche

Secondo Google, i gruppi APT con sede in Iran sfruttavano principalmente l'intelligenza artificiale per creare campagne di phishing. Utilizzavano anche Gemini per condurre ricognizioni su esperti e organizzazioni della difesa e generare contenuti relativi alla sicurezza informatica.

Nel frattempo, gli autori di attacchi APT in Cina hanno sfruttato Gemini per risolvere problemi di codice, scripting e attività di sviluppo. Hanno anche utilizzato l'intelligenza artificiale per esplorare metodi per ottenere un accesso più approfondito alle reti target.

Il gruppo di intelligence sulle minacce di Google e i gruppi APT nordcoreani hanno utilizzato Gemini in diverse fasi del ciclo di vita di un attacco, come la ricerca e lo sviluppo pre-attacco. Il rapporto afferma:

Hanno utilizzato Gemini anche per condurre ricerche di interesse strategico per il governo nordcoreano, come l'esercito sudcoreano e le criptovalute.

– GTIG

Secondo Chainalysis, l'anno scorso gli hacker nordcoreani hanno rubato 1,3 miliardi di dollari in asset digitali.