Google Earth retrocede con la herramienta de IA de imágenes satelitales tras una ola de críticas
- Google activó y luego, aproximadamente un día después, retiró una función de Google Earth que utilizaba su modelo Nano Banana 2 para generar escenas falsas sobre imágenes satelitales reales.
- Periodistas e investigadores de código abierto, que dependen de esas imágenes para verificar guerras y desastres, advirtieron que inundaría internet con falsificaciones geoespaciales creíbles.
- Google afirma que está reconstruyendo la función con salvaguardas más sólidas, dejando incierta su reaparición.
Google ha eliminado una nueva función de Google Earth después de aproximadamente un día de operación porque investigadores de la desinformación advirtieron que permitía a cualquiera superponer escenas falsas convincentes en las propias imágenes satelitales de Google.
La función fue muy criticada, con varios profesionales pidiendo su eliminación. Google intentó implementar salvaguardas que le permitirían mantener la función operativa, pero finalmente cedió.
¿Por qué aprobó Google la desinformación?
Google lanzó recientemente y rápidamente eliminó una función de Google Earth llamada "crear imagen", que utilizaba el modelo Nano Banana 2 de Google para convertir un texto escrito en una escena inventada superpuesta sobre datos reales de mapas satelitales, aéreos y 3D.
Un gerente de producto, Bryan Horowitz, dijo que los usuarios podían hacer zoom en un lugar en la versión web, tocar el botón y escribir lo que quisieran que apareciera allí. Google lo promocionó como una forma de "visualizar la historia, crear planes de bienes raíces y más".
Sin embargo, el investigador de código abierto Henk van Ess escribió en Substack que Google pasó 20 años construyendo una referencia confiable solo para agregar un "botón que inventa cosas".
Su principal problema con la función era que las imágenes generadas tomarían prestada la autoridad de la plataforma Google Earth.
BBC Verify utilizó la herramienta para generar una Torre Eiffel derrumbada, un socavón que se traga la Gran Pirámide de Giza y tanques rusos en Kiev. Van Ess también creó imágenes que incluían refugiados en la frontera mexicana y un cráter de bomba junto a un hospital en Gaza, ninguno de los cuales encontró resistencia.
NPR produjo imágenes de la isla Kharg de Irán en llamas y un Capitolio de EE. UU. inundado, mientras que AFP fabricó imágenes de una explosión en París y un sitio nuclear en Irán.
El personal de 404 Media añadió rascacielos a tierras agrícolas, plantó un "campamento de personas sin hogar" en Los Ángeles y organizó una protesta fuera de las propias oficinas de Google.
¿Por qué debería ser creíble la imagen satelital?
Los analistas de código abierto confían en las imágenes de Google Earth porque una fotografía tomada desde cientos de millas de altura es costosa y difícil de falsificar.
Jake Godin, investigador senior del grupo de investigación Bellingcat, reveló que las imágenes satelitales falsas han aparecido antes, incluido un daño falso en una base de EE. UU. en Bahréin durante el conflicto entre EE. UU.-Israel e Irán, pero explicó que agregar un generador de un solo clic hace que las falsificaciones sean demasiado fáciles de producir en masa.
Bill Greer, analista geoespacial y cofundador de la organización sin fines de lucro Common Space, dijo que la erosión de la confianza en las imágenes satelitales es "potencialmente particularmente dañina".
Google explicó que cada imagen creada con la herramienta lleva una marca de agua digital SynthID que se puede verificar a través de la aplicación Gemini o la función Lens en Búsqueda. También escribió que no permite la creación de imágenes sobre temas dañinos. Sin embargo, poco después, BBC Verify descubrió que podía engañar a Gemini para que considerara genuina una imagen falsa de Google Earth.
El filtrado de prompts de Google también falló fácilmente. Si bien rechazó una solicitud para construir una horca para "colgar traidores" fuera del parlamento del Reino Unido, una versión más vaga del mismo prompt pasó.
Google ha retirado la función desde entonces, afirmando que, aunque los profesionales geoespaciales encontraron útil la herramienta, las personas compartían capturas de pantalla de imágenes generadas que violaban sus políticas. Ha declarado que trabajará en implementar salvaguardas más fuertes, pero si la herramienta regresará sigue siendo una pregunta abierta.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Qué hizo la nueva herramienta de Google Earth?
La función "crear imagen" permitía a los usuarios escribir un prompt y generar una imagen de IA, construida con el modelo Nano Banana 2 de Google, superpuesta sobre imágenes satelitales, aéreas y 3D reales de Google Earth, las cuales podían descargarse y compartirse.
¿Por qué Google revirtió la función?
Investigadores de desinformación demostraron que la herramienta podía fabricar convincentes escenas satelitales falsas, desde un Capitolio estadounidense inundado hasta un sitio nuclear en Irán, y Google dijo que retiró la función tras ver imágenes generadas compartidas que parecían violar sus políticas, mientras trabaja en salvaguardas más sólidas.
¿Google etiqueta las imágenes de IA que creó?
Sí. Google indicó que cada imagen creada con la herramienta lleva una marca de agua invisible SynthID y puede verificarse en la aplicación Gemini o en Lens de Búsqueda, aunque BBC Verify descubrió que era posible engañar a Gemini para que tratara una imagen falsa como real y que algunas herramientas externas de detección no identificaron el contenido.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
