Google avverte di vulnerabilità dell'IA mentre gli hacker prendono di mira Gemini
- Google segnala che gruppi di minacce persistenti avanzate (APT) sostenuti da governi hanno tentato di effettuare il jailbreak.
- Gli hacker hanno cercato di manipolare Gemini utilizzando tattiche semplici come riformulare i prompt o inviare richieste ripetute.
- Google continua a potenziare le misure di sicurezza di Gemini per prevenire l'abuso dell'IA da parte degli attori delle minacce.
Google ha emesso un avviso sui potenziali rischi per la sicurezza associati all'intelligenza artificiale (IA) dopo che hacker sponsorizzati dallo stato hanno tentato di sfruttare il suo modello di IA Gemini.
Tuttavia, i loro sforzi per effettuare il jailbreak del sistema sono alla fine falliti.
L'intelligence sulle minacce di Google group (GTIG) ha pubblicato un documento su 'Uso malevolo avversario dell'IA generativa', che spiega come gli attori delle minacce abbiano conversato con il loro chatbot IA, Gemini.
Gli hacker provano a effettuare il jailbreak dell'IA Gemini di Google ma falliscono con trucchi semplici
Google segnala che gli attori delle minacce hanno tentato di effettuare il jailbreak di Gemini AI utilizzando prompt, inclusi sforzi da parte di gruppi APT (minacce persistenti avanzate) sostenuti da governi per sfruttare l'IA per attività malevole.
Tuttavia, la multinazionale americana non ha trovato prove di tentativi di jailbreak avanzati.
Invece, gli hacker hanno utilizzato approcci diretti, come digitare frasi diverse o ripetere la stessa richiesta molte volte. Google ha commentato che questi tentativi sono stati infruttuosi.
I jailbreak con l'aiuto dell'IA sono attacchi di injection dei prompt che cercano di eludere le restrizioni e far eseguire all'IA azioni proibite, come rivelare informazioni sensibili o creare contenuti dannosi.
Secondo Google, un attore APT ha tentato di sfruttare Gemini utilizzando prompt di jailbreak pubblicamente disponibili per generare codice malevolo. Tuttavia, il tentativo è fallito, poiché Gemini ha risposto con un output filtrato per la sicurezza.
Google ha menzionato che gli attaccanti cercavano di raggiungere diversi obiettivi malvagi con l'aiuto di Gemini, come raccogliere informazioni sui bersagli, identificare vulnerabilità dalle fonti aperte e scrivere codice e script. Inoltre, sono stati fatti alcuni tentativi per supportare le azioni post-compromissione, ad esempio per evitare il rilevamento.
Iran, Cina e Corea del Nord sfruttano l'IA Gemini di Google per operazioni cyber
Secondo Google, i gruppi APT basati in Iran hanno sfruttato principalmente l'IA per creare campagne di phishing. Hanno anche utilizzato Gemini per condurre ricognizioni su esperti di difesa e organizzazioni e generare contenuti relativi alla cybersecurity.
Nel frattempo, gli attori APT cinesi hanno sfruttato Gemini per risolvere problemi di codice, scripting e attività di sviluppo. Hanno anche utilizzato l'IA per esplorare metodi per ottenere un accesso più profondo alle reti di destinazione.
Il gruppo di intelligence sulle minacce di Google e i gruppi APT nordcoreani hanno utilizzato Gemini in diverse fasi del ciclo di vita dell'attacco, come la ricerca e lo sviluppo pre-attacco. Il rapporto afferma:
Hanno anche utilizzato Gemini per ricerche di interesse strategico per il governo nordcoreano, come le forze militari sudcoreane e le criptovalute.
– GTIG
L'anno scorso, gli hacker nordcoreani hanno rubato 1,3 miliardi di dollari in attività digitali, secondo Chainalysis.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Nellius Irene
Nellius è una laureata in Gestione Aziendale e Informatica con cinque anni di esperienza nel settore delle criptovalute. È anche diplomata presso Bitcoin Dada. Nellius ha contribuito a principali testate giornalistiche, tra cui BanklessTimes, Cryptobasic e Riseup Media.
