Google Earth retire son outil d'IA pour l'imagerie satellite suite à une vague de critiques
- Google a activé, puis environ un jour plus tard, désactivé une fonctionnalité de Google Earth qui utilisait son modèle Nano Banana 2 pour générer de fausses scènes par-dessus de véritables images satellites.
- Les journalistes et les enquêteurs travaillant sur des sources ouvertes, qui s'appuient sur ces images pour vérifier les guerres et les catastrophes, ont averti que cela inonderait Internet de fausses données géospatiales crédibles.
- Google affirme être en train de reconstruire cette fonctionnalité avec des garde-foustronstricts, ce qui rend son retour incertain.
Google a retiré une nouvelle fonctionnalité de Google Earth après environ une journée de fonctionnement, car des chercheurs spécialisés dans la désinformation avaient averti qu'elle permettait à n'importe qui d'insérer de fausses scènes convaincantes sur les images satellites de Google.
Cette fonctionnalité a suscité de vives critiques, plusieurs professionnels demandant sa suppression. Google a tenté de mettre en place des mesures de sécurité pour pouvoir la maintenir en service, mais a finalement cédé.
Pourquoi Google a-t-il approuvé la désinformation ?
Google a récemment lancé puis rapidement supprimé une fonctionnalité de Google Earth appelée « créer une image », qui utilisait le modèle Nano Banana 2 de Google pour transformer une invite de saisie en une scène inventée superposée à de véritables données satellitaires, aériennes et cartographiques 3D.
Selon Bryan Horowitz, chef de produit, les utilisateurs peuvent zoomer sur un point précis de la version web, appuyer sur le bouton et saisir le texte qu'ils souhaitent y voir apparaître. Google présente cette fonctionnalité comme un moyen de « visualiser l'histoire, créer des plans immobiliers et bien plus encore »
Cependant, Henk van Ess, enquêteur spécialisé dans les sources ouvertes, a écrit sur Substack que Google avait passé 20 ans à construire une référence fiable pour finalement ajouter un « bouton qui invente des choses »
Son principal reproche concernant cette fonctionnalité était que les images générées s'appuieraient sur l'autorité de la plateforme Google Earth.
L'équipe de vérification de la BBC a utilisé cet outil pour générer une image de la tour Eiffel effondrée, d'un gouffre engloutissant la Grande Pyramide de Gizeh et de chars russes à Kiev. Van Ess a également créé des images montrant des réfugiés à la frontière mexicaine et un cratère de bombe près d'un hôpital à Gaza, sans rencontrer la moindre résistance.
NPR a diffusé des images de l'île iranienne de Kharg en flammes et du Capitole américain inondé, tandis que l'AFP a fabriqué des images d'une explosion à Paris et d'un site nucléaire en Iran.
L'équipe de 404 Media a ajouté des gratte-ciel à des terres agricoles, installé un « campement de sans-abri » à Los Angeles et organisé une manifestation devant les propres bureaux de Google.
Pourquoi les images satellites doivent-elles être crédibles ?
Les analystes de sources ouvertes s'appuient sur les images de Google Earth car une photographie prise à des centaines de kilomètres d'altitude est coûteuse et difficile à falsifier.
Jake Godin, chercheur principal au sein du groupe d'investigation Bellingcat, a révélé que des images satellites falsifiées avaient déjà fait surface, notamment de faux dégâts sur une base américaine à Bahreïn pendant le conflit israélo-iranien, mais il a expliqué que l'ajout d'un générateur en un clic rendait ces faux trop faciles à produire en masse.
Bill Greer, analyste géospatial et cofondateur de l'organisation à but non lucratif Common Space, a déclaré que l'érosion de la confiance dans l'imagerie satellite est « potentiellement particulièrement dommageable »
Google a expliqué que chaque image créée avec cet outil comporte un filigrane numérique SynthID vérifiable via l'application Gemini ou la fonctionnalité Lens de la recherche. L'entreprise a également précisé qu'elle n'autorise pas la création d'images traitant de sujets préjudiciables. Cependant, peu après, BBC Verify a découvert qu'il était possible de tromper Gemini et de faire passer une fausse image Google Earth pour authentique.
Le système de filtrage des requêtes de Google a lui aussi échoué. S'il a rejeté une demande visant à construire un gibet pour « pendre les traîtres » devant le Parlement britannique, une version plus vague de la même requête a été acceptée.
Google a depuis retiré la fonctionnalité, expliquant que si les professionnels de la géomatique la trouvaient utile, des captures d'écran d'images générées, enfreignant ses règles, étaient partagées. L'entreprise a indiqué qu'elle travaillerait à la mise en place de garde-foustron, mais le retour de l'outil reste incertain.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Que fait le nouvel outil Google Earth de Google ?
La fonction « créer une image » permettait aux utilisateurs de saisir une requête et de générer une image IA, construite avec le modèle Nano Banana 2 de Google, superposée à de véritables images satellites, aériennes et 3D de Google Earth, qui pouvaient ensuite être téléchargées et partagées.
Pourquoi Google a-t-il supprimé cette fonctionnalité ?
Des chercheurs spécialisés dans la désinformation ont démontré que l'outil pouvait fabriquer de fausses images satellite convaincantes, allant d'un Capitole américain inondé à un site nucléaire en Iran, et Google a déclaré avoir retiré la fonctionnalité après avoir constaté le partage d'images générées qui semblaient enfreindre ses règles, tout en travaillant à la mise en place de garde-foustronstricts.
Google étiquette-t-il les images créées par son IA ?
Oui. Google a déclaré que chaque image créée avec cet outil comporte un filigrane invisible SynthID et peut être vérifiée dans l'application Gemini ou Lens dans la recherche. Cependant, BBC Verify a constaté qu'il était possible de tromper Gemini pour qu'il considère une image truquée comme authentique et que certains outils de détection externes n'ont pas détecté le contenu.
Hannah Collymore
Hannah est rédactrice et éditrice, forte d'une expérience de près de dix ans dans la rédaction de blogs et la couverture d'événements liés aux cryptomonnaies. Chez Cryptopolitan, elle contribue à la page d'actualités en rédigeant des articles et en analysant les dernières évolutions de la finance décentralisée DeFi, des comptes gérés par les utilisateurs (RWA), de la réglementation des cryptomonnaies, de l'intelligence artificielle (IA) et des technologies de pointe. Elle est diplômée en administration des affaires de l'université Arcadia.
