O Google Earth retira sua ferramenta de IA para imagens de satélite após onda de críticas
- O Google ativou e, cerca de um dia depois, desativou um recurso do Google Earth que usava seu modelo Nano Banana 2 para gerar cenas falsas sobre imagens de satélite reais.
- Jornalistas e investigadores independentes, que dependem dessas imagens para verificar guerras e desastres, alertaram que isso inundaria a internet com falsificações geoespaciais convincentes.
- O Google afirma que está reconstruindo o recurso com medidas de segurançatron, o que torna seu retorno incerto.
O Google removeu um novo recurso do Google Earth após aproximadamente um dia de funcionamento, porque pesquisadores de desinformação alertaram que ele permitia que qualquer pessoa inserisse cenas falsas convincentes nas imagens de satélite do próprio Google.
O recurso foi alvo de fortes críticas, com diversos profissionais pedindo sua remoção. O Google tentou implementar medidas de segurança que permitissem manter o recurso em funcionamento, mas acabou cedendo.
Por que o Google aprovou informações falsas?
O Google lançou recentemente e removeu rapidamente um recurso do Google Earth chamado "criar imagem", que usava o modelo Nano Banana 2 do Google para transformar um comando digitado em uma cena inventada sobreposta a dados reais de satélite, aéreos e mapas 3D.
Um gerente de produto, Bryan Horowitz, disse que os usuários poderiam ampliar a visualização para um ponto específico na versão web, tocar no botão e digitar o que quisessem que aparecesse ali. O Google apresentou a ferramenta como uma forma de "visualizar a história, criar plantas imobiliárias e muito mais"
No entanto, o pesquisador de código aberto Henk van Ess escreveu no Substack que o Google passou 20 anos construindo uma referência confiável apenas para adicionar um "botão que inventa coisas"
Sua principal objeção ao recurso era que as imagens geradas utilizariam a mesma autoridade da plataforma Google Earth.
A BBC Verify usou a ferramenta para gerar uma Torre Eiffel desmoronada, uma cratera engolindo a Grande Pirâmide de Gizé e tanques russos em Kiev. Van Ess também criou imagens que incluíam refugiados na fronteira mexicana e uma cratera de bomba ao lado de um hospital em Gaza, nenhuma das quais encontrou qualquer resistência.
A NPR divulgou imagens da ilha iraniana de Kharg em chamas e do Capitólio dos EUA inundado, enquanto a AFP fabricou imagens de uma explosão em Paris e de uma instalação nuclear no Irã.
A equipe da 404 Media adicionou arranha-céus a terras agrícolas, montou um "acampamento de moradores de rua" em Los Angeles e organizou um protesto em frente aos escritórios do Google.
Por que as imagens de satélite devem ser consideradas confiáveis?
Os analistas de código aberto dependem de imagens do Google Earth porque uma fotografia tirada a centenas de quilômetros de altitude é cara e difícil de falsificar.
Jake Godin, pesquisador sênior do grupo investigativo Bellingcat, revelou que imagens de satélite falsificadas já vieram à tona antes, incluindo danos falsos em uma base americana no Bahrein durante o conflito entre EUA e Israel com o Irã, mas explicou que adicionar um gerador de imagens com um clique torna as falsificações muito fáceis de serem produzidas em massa.
Bill Greer, analista geoespacial e cofundador da organização sem fins lucrativos Common Space, afirmou que a erosão da confiança nas imagens de satélite é "potencialmente muito prejudicial"
O Google explicou que todas as imagens criadas com a ferramenta carregam uma marca d'água digital SynthID que pode ser verificada pelo aplicativo Gemini ou pelo recurso Lens na Busca. A empresa também afirmou que não permite a criação de imagens relacionadas a temas prejudiciais. No entanto, pouco tempo depois, o BBC Verify descobriu que era possível enganar o Gemini para que ele identificasse uma imagem falsa do Google Earth como autêntica.
O filtro de sugestões do Google também falhou facilmente. Embora tenha rejeitado uma solicitação para construir uma forca para "enforcar traidores" em frente ao parlamento do Reino Unido, uma versão mais vaga da mesma sugestão foi aprovada.
O Google removeu o recurso, afirmando que, embora profissionais da área geoespacial considerassem a ferramenta útil, usuários estavam compartilhando capturas de tela de imagens geradas que violavam suas políticas. A empresa declarou que trabalhará na implementação de medidas de segurançatron, mas o retorno da ferramenta ainda é incerto.
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.
Perguntas frequentes
O que fazia a nova ferramenta Google Earth?
O recurso "criar imagem" permitia que os usuários digitassem um texto e gerassem uma imagem de IA, construída com o modelo Nano Banana 2 do Google, sobreposta a imagens reais de satélite, aéreas e 3D do Google Earth, que podiam então ser baixadas e compartilhadas.
Por que o Google reverteu a implementação desse recurso?
Pesquisadores de desinformação mostraram que a ferramenta podia fabricar cenas de satélite falsas e convincentes, desde um Capitólio dos EUA inundado até uma instalação nuclear no Irã, e o Google afirmou ter removido o recurso após ver imagens geradas compartilhadas que pareciam violar suas políticas, embora esteja trabalhando em medidas de segurançatron.
O Google rotula as imagens criadas por IA?
Sim. O Google afirmou que todas as imagens criadas com a ferramenta possuem uma marca d'água invisível do SynthID e podem ser verificadas no aplicativo Gemini ou no Lens da Busca, embora a BBC Verify tenha descoberto que é possível enganar o Gemini para que ele trate uma imagem falsa como verdadeira e que algumas ferramentas externas de detecção não identificaram o conteúdo.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação para blogs e cobertura de eventos no universo das criptomoedas. No Cryptopolitan, Hannah contribui para a página de notícias, reportando e analisando os últimos desenvolvimentos em DeFi, RWA, regulamentação de criptomoedas, IA e tecnologias de ponta. Ela se formou em Administração de Empresas pela Universidade Arcadia.
