Google在批评浪潮后撤回了卫星图像AI工具 

Google在运营大约一天后移除了一项新的Google Earth功能，因为虚假信息研究人员警告称，它允许任何人将令人信服的虚假场景叠加在Google自己的卫星图像上。

该功能受到严厉批评，几位专业人士呼吁将其移除。Google试图实施安全措施以保留该功能，但最终让步。

为什么Google批准了虚假信息？

Google最近推出并迅速移除了一项名为“创建图像”的Google Earth功能，该功能使用Google的Nano Banana 2模型将输入的提示词转化为叠加在真实卫星、航空和3D地图数据之上的虚构场景。

产品经理Bryan Horowitz表示，用户可以在网页版上放大到某个位置，点击按钮，并输入他们希望出现在那里的任何内容。Google将其宣传为一种“可视化历史、创建房地产计划等”的方式。

然而，开源调查员Henk van Ess在Substack上写道，Google花了20年时间建立了一个值得信赖的参考平台，却添加了一个“制造虚假内容的按钮”。

他对该功能的主要问题是，生成的图像会借用Google Earth平台的权威性。

BBC Verify 使用该工具生成了倒塌的埃菲尔铁塔、吞噬吉萨大金字塔的流沙坑以及基辅的俄罗斯坦克。Van Ess还创建了包含墨西哥边境难民和加沙医院旁炸弹坑的图像，均未遇到任何阻力。

NPR制作了伊朗哈尔克岛燃烧和美国国会大厦被淹的图像，而法新社则伪造了巴黎爆炸和伊朗核设施的图像。

404 Media工作人员在农田上添加了摩天大楼，在洛杉矶种植了一个“无家可归者营地”，并在Google自己的办公室外策划了一场抗议活动。

为什么卫星图像应该具有可信度？

开源分析师依赖Google Earth的图像，因为从数百英里高空拍摄的 photograph 成本高昂且难以伪造。

调查组织Bellingcat的高级研究员Jake Godin透露，伪造的卫星图像此前也曾出现过，包括在美国-以色列与伊朗冲突期间巴林美国基地的虚假损坏，但他解释说，添加一键生成器使得伪造品过于容易大规模生产。

地理空间分析师、非营利组织Common Space的联合创始人Bill Greer表示，对卫星图像信任的侵蚀“可能特别具有破坏性”。

Google解释说，使用该工具创建的每张图像都带有SynthID数字水印，可以通过Gemini应用或搜索中的Lens功能进行验证。它还写道，它不允许创建有关有害主题的图像。然而，不久之后，BBC Verify发现它可以欺骗Gemini，使其将假的Google Earth图像称为真实的。

Google的提示词过滤也轻易失败。虽然它拒绝了一个在英国议会外建造绞架以“悬挂叛徒”的请求，但同一提示词的更模糊版本却通过了。

Google随后撤回了该功能，表示虽然地理空间专业人士认为该工具有用，但人们分享了违反其政策的生成图像截图。它表示将致力于实施更强大的护栏，但该工具是否会回归仍是一个未解之谜。