Gli hacker inondano Gemini di Google con domande in una massiccia operazione di furto di IA

Il chatbot AI di Google Gemini è diventato il bersaglio di un furto di informazioni su larga scala, con attaccanti che bombardano il sistema con domande per copiarne il funzionamento. Una sola operazione ha inviato oltre 100.000 query al chatbot, cercando di estrarre i modelli segreti che lo rendono intelligente.

L'azienda ha riferito giovedì che questi cosiddetti "attacchi di distillazione" stanno peggiorando. Cattivi attori inviano ondate successive di domande per capire la logica dietro le risposte di Gemini. Il loro obiettivo è semplice: rubare la tecnologia di Google per costruire o migliorare i propri sistemi AI senza spendere miliardi nello sviluppo.

Google crede che la maggior parte degli attaccanti siano aziende private o ricercatori che cercano di prendere il sopravvento senza fare il lavoro duro. Gli attacchi sono provenuti da tutto il mondo, secondo il rapporto di Google. John Hultquist, che guida il Threat Intelligence Group di Google, ha dichiarato che le aziende più piccole che utilizzano strumenti AI personalizzati probabilmente affronteranno attacchi simili a breve.

Le aziende tecnologiche hanno investito miliardi di dollari nella costruzione dei loro chatbot AI. Il funzionamento interno di questi sistemi è trattato come un tesoro nazionale. Anche con difese in atto per intercettare questi attacchi, i principali sistemi AI rimangono facili bersagli perché chiunque abbia accesso a Internet può interagire con loro.

Lo scorso anno, OpenAI ha puntato il dito contro l'azienda cinese DeepSeek, sostenendo che avesse utilizzato la distillazione per migliorare i propri modelli. Cryptopolitan ha riportato il 30 gennaio che Italia e Irlanda hanno bandito DeepSeek dopo che OpenAI aveva accusato l'azienda cinese di utilizzare la distillazione per rubare i suoi modelli AI. La tecnica consente alle aziende di copiare tecnologie costose a una frazione del costo.

Perché gli attaccanti lo fanno?

L'economia è spietata. Costruire un modello AI all'avanguardia costa centinaia di milioni o persino miliardi di dollari. DeepSeek avrebbe costruito il suo modello R1 per circa sei milioni di dollari utilizzando la distillazione, mentre lo sviluppo di ChatGPT-5 ha superato i due miliardi di dollari, secondo rapporti del settore. Rubare la logica di un modello riduce quell'enorme investimento a quasi zero.

Molti degli attacchi a Gemini hanno preso di mira gli algoritmi che lo aiutano a "ragionare" o elaborare le informazioni, ha detto Google. Le aziende che addestrano i propri sistemi AI su dati sensibili – come 100 anni di strategie di trading o informazioni sui clienti – ora affrontano la stessa minaccia.

“Immaginiamo che il tuo LLM sia stato addestrato sui 100 anni di pensiero segreto relativi al tuo modo di fare trading. Teoricamente, potresti distillare parte di ciò”, ha spiegato Hultquist.

Gli hacker legati agli stati nazionali si uniscono alla caccia

Il problema va oltre le aziende affamate di denaro. APT31, un gruppo di hacking governativo cinese sanzionato dagli Stati Uniti nel marzo 2024, ha utilizzato Gemini alla fine dello scorso anno per pianificare reali attacchi informatici contro organizzazioni americane.

Il gruppo ha accoppiato Gemini con Hexstrike, uno strumento di hacking open-source in grado di eseguire oltre 150 programmi di sicurezza. Hanno analizzato vulnerabilità di esecuzione remota di codice, modi per eludere la sicurezza web e attacchi di iniezione SQL – tutti mirati a specifici obiettivi statunitensi, secondo il rapporto di Google.

Cryptopolitan aveva già trattato preoccupazioni simili sulla sicurezza dell'IA, avvertendo che gli hacker stavano sfruttando le vulnerabilità dell'IA. Il caso APT31 dimostra che quegli avvertimenti erano azzeccati.

Hultquist ha evidenziato due grandi preoccupazioni. Avversari che operano attraverso intere intrusioni con un minimo aiuto umano e l'automazione dello sviluppo di strumenti di attacco. “Questi sono due modi in cui gli avversari possono ottenere vantaggi significativi e avanzare nel ciclo di intrusione con un minimo di interferenza umana”, ha detto.

La finestra tra la scoperta di una debolezza del software e l'implementazione di una correzione, chiamata divario di patch, potrebbe ampliarsi drasticamente. Le organizzazioni impiegano spesso settimane per implementare le difese. Con agenti AI che trovano e testano automaticamente le vulnerabilità, gli attaccanti potrebbero muoversi molto più velocemente.

“Dovremo sfruttare i vantaggi dell'AI e rimuovere sempre più gli esseri umani dal processo, in modo da poter rispondere alla velocità della macchina”, ha detto Hultquist a The Register.

Le poste in gioco finanziarie sono enormi. Il rapporto di IBM del 2024 sulle violazioni dei dati ha rilevato che il furto di proprietà intellettuale costa ora alle organizzazioni 173 $ per record, con le violazioni focalizzate sulla PI in aumento del 27% su base annua. I pesi dei modelli AI rappresentano gli obiettivi di maggior valore in questa economia sotterranea – un singolo modello all'avanguardia rubato potrebbe fruttare centinaia di milioni sul mercato nero.

Google ha disattivato gli account collegati a queste campagne, ma gli attacchi continuano ad arrivare “da tutto il mondo”, ha detto Hultquist. Man mano che l'AI diventa più potente e più aziende vi fanno affidamento, ci si aspetta che questa corsa all'oro digitale si intensifichi. La domanda non è se arriveranno più attacchi, ma se i difensori riusciranno a tenere il passo.