Le promesse di sicurezza di Google sotto scrutinio dopo il rapporto su Gemini

Google ha condiviso un documento sulla sicurezza del suo modello di intelligenza artificiale di punta, Gemini 2.5 Pro. Gli esperti affermano che lascia inesposti rischi chiave.

L'azienda ha pubblicato il documento tecnico paper giovedì, diverse settimane dopo aver rilasciato Gemini 2.5 Pro ai clienti. Il documento elenca i test interni eseguiti da Google sul modello, ma offre pochi dati su come il sistema si comporta sotto sovraccarico o uso improprio. I ricercatori che hanno esaminato il documento hanno dichiarato a TechCrunch che i dettagli mancanti rendono difficile valutare se Gemini 2.5 Pro sia davvero sicuro per un uso diffuso.

I rapporti tecnici sono uno dei modi principali con cui il pubblico apprende cosa i sistemi di IA avanzati possono e non possono fare. Un rapporto approfondito mostra spesso dove un modello fallisce e dove potrebbe essere utilizzato in modo improprio. Molti ricercatori di IA considerano questi documenti come sforzi onesti per sostenere le affermazioni di sicurezza di un'azienda.

Google gestisce la rendicontazione sulla sicurezza in modo diverso.

Google rilascia un rapporto solo dopo che un modello non è più contrassegnato come "sperimentale" e sposta alcune scoperte relative a "capacità pericolose" in un audit separato che non viene pubblicato immediatamente. Di conseguenza, il documento pubblico non copre tutte le minacce testate da Google.

Diversi analisti hanno definito il nuovo documento Gemini 2.5 Pro un caso eclatante di divulgazione limitata. Hanno inoltre notato che il rapporto non fa mai riferimento al Framework di sicurezza Frontier (FSF) di Google, una politica annunciata dall'azienda l'anno scorso per individuare le future capacità dell'IA che potrebbero causare "danni gravi".

"Questo rapporto è molto spoglio, contiene informazioni minime ed è arrivato settimane dopo che il modello è stato reso pubblico", ha dichiarato Peter Wildeford, co-fondatore dell'Istituto per la politica e la strategia sull'IA. "È impossibile confermare se Google stia rispettando le proprie promesse e, quindi, impossibile valutare la sicurezza e la protezione dei suoi modelli."

Thomas Woodside, co-fondatore del Secure AI Project, ha dichiarato di essere felice che sia apparso qualsiasi documento, ma ha messo in dubbio il piano di Google di rilasciare aggiornamenti costanti. Ha sottolineato che l'ultima volta che l'azienda ha condiviso i risultati dei test sulle capacità pericolose è stato nel giugno 2024, e quel documento riguardava un modello annunciato a febbraio dello stesso anno.

La fiducia è ulteriormente diminuita quando gli osservatori non hanno visto alcun documento sulla sicurezza per Gemini 2.5 Flash, un modello più snello e veloce rivelato da Google la settimana scorsa. Un portavoce dell'azienda ha dichiarato che un documento su Flash è "in arrivo a breve".

"Spero che questa sia una promessa reale di iniziare a fornire aggiornamenti più frequenti", ha detto Woodside. "Questi aggiornamenti dovrebbero includere i risultati per i modelli che non sono ancora stati resi pubblici, perché anche questi modelli potrebbero presentare rischi seri."

Google ora è carente in termini di trasparenza

La nota di sicurezza note di Meta per i suoi nuovi modelli Llama 4 occupa solo poche pagine, mentre OpenAI ha scelto di non pubblicare alcun rapporto per la sua serie GPT‑4.1.

La mancanza di dettagli arriva in un momento teso. Due anni fa, Google told al governo degli Stati Uniti che avrebbe pubblicato documenti sulla sicurezza per ogni modello di IA "significativo" rientrato nel campo di applicazione. L'azienda ha fatto promesse simili ai funzionari di altri paesi, affermando che avrebbe offerto "trasparenza pubblica" sui suoi prodotti di IA.

Kevin Bankston, consigliere senior sulla governance dell'IA presso il Center for Democracy and Technology, ha definito i rilasci dei principali laboratori una "corsa al ribasso" sulla sicurezza.

"In combinazione con i rapporti secondo cui laboratori rivali come OpenAI hanno ridotto il tempo di test di sicurezza prima del rilascio da mesi a giorni, questa documentazione esigua per il modello principale di Google racconta una storia preoccupante di una corsa al ribasso sulla sicurezza e sulla trasparenza dell'IA, mentre le aziende affrettano i propri modelli sul mercato", ha aggiunto.

Google afferma che gran parte del suo lavoro sulla sicurezza avviene dietro porte chiuse. L'azienda sostiene che ogni modello subisce test rigorosi, inclusi "red teaming" (test di penetrazione) avversari, prima di qualsiasi lancio pubblico.