Google Earth fait marche arrière sur l'outil d'IA d'images satellites après une vague de critiques
- Google a activé la fonctionnalité, puis l'a retirée environ un jour plus tard : il s'agissait d'une option de Google Earth utilisant son modèle Nano Banana 2 pour générer des scènes fictives superposées à de véritables images satellites.
- Les journalistes et les enquêteurs en sources ouvertes, qui s'appuient sur ces images pour vérifier les guerres et les catastrophes, ont mis en garde contre le risque d'inonder internet de fausses données géospatiales crédibles.
- Google indique qu'il reconstruit cette fonctionnalité avec des garde-fous renforcés, ce qui rend son retour incertain.
Google a supprimé une nouvelle fonctionnalité de Google Earth après environ un jour de fonctionnement, car des chercheurs en désinformation ont averti qu'elle permettait à quiconque de superposer de convaincantes fausses scènes sur les propres images satellites de Google.
La fonctionnalité a été vivement critiquée, plusieurs professionnels demandant son retrait. Google a tenté de mettre en œuvre des sauvegardes qui lui permettraient de maintenir la fonctionnalité en fonctionnement, mais a finalement cédé.
Pourquoi Google a-t-il approuvé la désinformation ?
Google a récemment lancé et rapidement retiré une fonctionnalité de Google Earth appelée « create image » (créer une image), qui utilisait le modèle Nano Banana 2 de Google pour transformer une invite tapée en une scène inventée superposée à de vraies données de cartes satellites, aériennes et 3D.
Un chef de produit, Bryan Horowitz, a déclaré que les utilisateurs pouvaient zoomer sur un endroit sur la version web, appuyer sur le bouton et taper ce qu'ils voulaient y apparaître. Google le présentait comme un moyen de « visualiser l'histoire, créer des plans immobiliers et plus encore ».
Cependant, l'enquêteur open-source Henk van Ess a écrit sur Substack que Google avait passé 20 ans à construire une référence fiable seulement pour ajouter un « bouton qui invente des choses ».
Son principal problème avec la fonctionnalité était que les images générées emprunteraient l'autorité de la plateforme Google Earth.
BBC Verify a utilisé l'outil pour générer une Tour Eiffel effondrée, un trou béant avalant la Grande Pyramide de Gizeh, et des chars russes à Kiev. Van Ess a également créé des images incluant des réfugiés à la frontière mexicaine et un cratère de bombe à côté d'un hôpital à Gaza, aucun des deux n'ayant rencontré de résistance.
NPR a produit des images de l'île Kharg en Iran en flammes et du Capitole américain inondé, tandis que l'AFP fabriquait des images d'une explosion à Paris et d'un site nucléaire en Iran.
Le personnel de 404 Media a ajouté des gratte-ciel à des terres agricoles, a planté un « camp de sans-abri » à Los Angeles, et a organisé une manifestation devant les propres bureaux de Google.
Pourquoi l'imagerie satellite devrait-elle être crédible ?
Les analystes open-source s'appuient sur les images de Google Earth car une photographie prise à des centaines de kilomètres d'altitude est coûteuse et difficile à falsifier.
Jake Godin, chercheur senior au groupe d'investigation Bellingcat, a révélé que des images satellites falsifiées avaient déjà fait surface, y compris de faux dégâts sur une base américaine à Bahreïn pendant le conflit israélo-américain avec l'Iran, mais il a expliqué qu'ajouter un générateur en un clic rend les fausses images trop faciles à produire en masse.
Bill Greer, analyste géospatial et cofondateur de l'organisation à but non lucratif Common Space, a déclaré que l'érosion de la confiance dans l'imagerie satellite est « potentiellement particulièrement dommageable ».
Google a expliqué que chaque image créée avec l'outil porte un filigrane numérique SynthID qui peut être vérifié via l'application Gemini ou la fonctionnalité Lens dans la recherche. Il a également écrit qu'il n'autorise pas la création d'images concernant des sujets nuisibles. Cependant, peu après, BBC Verify a découvert qu'il pouvait tromper Gemini en lui faisant appeler authentique une fausse image Google Earth.
Le filtrage des invites de Google a également échoué facilement. Bien qu'il ait rejeté une demande de construire une potence pour « pendre les traîtres » devant le parlement britannique, une version plus vague de la même invite est passée.
Google a depuis retiré la fonctionnalité, déclarant que si les professionnels de la géospatialité trouvaient l'outil utile, les gens partageaient des captures d'écran d'images générées qui violaient ses politiques. Il a déclaré qu'il travaillerait à la mise en œuvre de garde-fous plus solides, mais le retour de l'outil reste une question ouverte.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Que faisait le nouvel outil Google Earth de Google ?
La fonction « créer une image » permettait aux utilisateurs de saisir une requête pour générer une image IA, réalisée grâce au modèle Nano Banana 2 de Google, superposée à de vraies images satellites, aériennes et en 3D de Google Earth, puis téléchargées et partagées.
Pourquoi Google a-t-il retiré cette fonctionnalité ?
Des chercheurs en désinformation ont montré que l'outil pouvait fabriquer des scènes satellites fictives convaincantes, allant d'un Capitole américain inondé à un site nucléaire en Iran. Google a retiré la fonctionnalité après avoir constaté que des images générées partagées semblaient violer ses politiques, tout en travaillant à renforcer les garde-fous.
Google étiquette-t-il les images IA qu'il crée ?
Oui. Google a indiqué que chaque image créée avec l'outil porte un filigrane SynthID invisible et peut être vérifiée dans l'application Gemini ou Lens dans Search, bien que BBC Verify ait constaté qu'il était possible de tromper Gemini pour qu'il traite une fausse image comme réelle et que certains outils de détection externes aient manqué le contenu.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
