Google Earth revoca lo strumento AI per immagini satellitari dopo una ondata di critiche
- Google ha attivato e poi, circa un giorno dopo, rimosso una funzionalità di Google Earth che utilizzava il modello Nano Banana 2 per generare scene false sovrapposte a vere immagini satellitari.
- Giornalisti e investigatori open-source, che si affidano a tali immagini per verificare guerre e disastri, hanno avvertito che avrebbe inondato internet di falsi geospaziali credibili.
- Google afferma di stare ricostruendo la funzionalità con protezioni più robuste, lasciando incerto il suo ritorno.
Google ha rimosso una nuova funzione di Google Earth dopo circa un giorno di funzionamento perché ricercatori di disinformazione hanno avvertito che permetteva a chiunque di sovrapporre scene false convincenti alle proprie immagini satellitari di Google.
La funzione è stata fortemente criticata, con diversi professionisti che ne chiedevano la rimozione. Google ha tentato di implementare salvaguardie che le avrebbero permesso di mantenere la funzione operativa, ma alla fine ha ceduto.
Perché Google ha approvato la disinformazione?
Google ha recentemente lanciato e rapidamente rimosso una funzione di Google Earth chiamata "create image" (crea immagine), che utilizzava il modello Nano Banana 2 di Google per trasformare un prompt digitato in una scena inventata sovrapposta a dati reali di mappe satellitari, aeree e 3D.
Un product manager, Bryan Horowitz, ha detto che gli utenti potevano zoomare su un punto nella versione web, premere il pulsante e digitare qualsiasi cosa volessero apparire lì. Google lo presentava come un modo per "visualizzare la storia, creare piani immobiliari e altro".
Tuttavia, l'investigatore open-source Henk van Ess ha scritto su Substack che Google ha impiegato 20 anni per costruire un riferimento affidabile, solo per aggiungere un "pulsante che inventa cose".
Il suo problema principale con la funzione era che le immagini generate avrebbero preso in prestito l'autorità della piattaforma Google Earth.
BBC Verify ha utilizzato lo strumento per generare una Torre Eiffel crollata, un sinkhole che inghiotte la Grande Piramide di Giza e carri armati russi a Kiev. Van Ess ha anche creato immagini che includevano rifugiati al confine messicano e un cratere di bomba accanto a un ospedale a Gaza, nessuno dei quali ha incontrato alcuna resistenza.
NPR ha prodotto immagini di l'isola iraniana di Kharg in fiamme e del Campidoglio degli Stati Uniti allagato, mentre l'AFP ha fabricato immagini di un'esplosione a Parigi e di un sito nucleare in Iran.
I dipendenti di 404 Media hanno aggiunto grattacieli a terreni agricoli, hanno piantato un "accampamento per senzatetto" a Los Angeles e hanno organizzato una protesta davanti agli uffici stessi di Google.
Perché le immagini satellitari dovrebbero essere credibili?
Gli analisti open-source si affidano alle immagini di Google Earth perché una fotografia scattata da centinaia di miglia di distanza è costosa e difficile da falsificare.
Jake Godin, un ricercatore senior del gruppo investigativo Bellingcat, ha rivelato che immagini satellitari falsificate sono emerse in precedenza, inclusi danni falsi in una base statunitense in Bahrein durante il conflitto USA-Israele con l'Iran, ma ha spiegato che aggiungere un generatore a un clic rende le falsificazioni troppo facili da produrre in massa.
Bill Greer, analista geospaziale e co-fondatore della nonprofit Common Space, ha detto che l'erosione della fiducia nelle immagini satellitari è "potenzialmente particolarmente dannosa".
Google ha spiegato che ogni immagine creata con lo strumento porta un watermark digitale SynthID che può essere verificato tramite l'app Gemini o la funzione Lens in Search. Ha anche scritto che non consente la creazione di immagini relative a argomenti dannosi. Tuttavia, poco dopo, BBC Verify ha scoperto che poteva ingannare Gemini facendogli considerare genuina un'immagine falsa di Google Earth.
Il filtro dei prompt di Google è anche fallito facilmente. Sebbene abbia rifiutato una richiesta di costruire un patibolo per "impiccare i traditori" fuori dal parlamento britannico, una versione più vaga dello stesso prompt è passata.
Google ha successivamente rimosso la funzione, affermando che sebbene i professionisti geospaziali trovassero lo strumento utile, le persone stavano condividendo screenshot di immagini generate che violavano le sue policy. Ha dichiarato che lavorerà all'implementazione di salvaguardie più forti, ma se lo strumento tornerà rimane una questione aperta.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Domande frequenti
Cosa faceva il nuovo strumento di Google Earth?
La funzione "crea immagine" permetteva agli utenti di digitare un prompt e generare un'immagine AI, costruita con il modello Nano Banana 2 di Google, sovrapposta a vere immagini satellitari, aeree e 3D di Google Earth, che potevano quindi essere scaricate e condivise.
Perché Google ha revocato la funzionalità?
Ricercatori sulla disinformazione hanno dimostrato che lo strumento poteva fabbricare convincenti scene satellitari false, da un Capitolio degli Stati Uniti allagato a un sito nucleare in Iran; Google ha ritirato la funzionalità dopo aver visto immagini generate condivise che sembravano violare le sue politiche, mentre lavora a protezioni più robuste.
Google etichetta le immagini AI che crea?
Sì. Google ha dichiarato che ogni immagine creata con lo strumento reca una filigrana invisibile SynthID e può essere verificata nell'app Gemini o in Lens su Ricerca, sebbene BBC Verify abbia rilevato la possibilità di ingannare Gemini facendogli trattare un falso come reale e che alcuni strumenti di rilevamento esterni abbiano mancato il contenuto.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.
