Google Earth、批判の波を受けて衛星画像AIツールを撤回 

Googleは、不正情報研究者が、この機能が誰でもGoogle自身の衛星画像上に説得力のある偽のシーンを配置できる可能性があると警告したため、運用開始から約1日で新しいGoogle Earth機能を削除しました。

この機能は激しい批判を受け、複数の専門家がその削除を呼びかけました。Googleは機能の継続を可能にするための安全対策を実装しようと試みましたが、最終的に妥協しました。

なぜGoogleは誤情報を承認したのか？

Googleは最近、「create image」と呼ばれるGoogle Earthの機能を立ち上げ、すぐに削除した。この機能はGoogleのNano Banana 2モデルを使用して、入力されたプロンプトを、実際の衛星、航空、および3Dマップデータの上に重ねられた創作シーンに変換していた。

プロダクトマネージャーのブライアン・ホロウィッツ氏は、ユーザーはウェブ版で特定の場所までズームし、ボタンをタップして、そこに何が表示されても構わないと入力できると述べました。Googleはこれを「歴史を可視化し、不動産計画を作成するなど」するための方法として売り込みました。

しかし、オープンソース調査家のヘンク・ヴァン・エス氏はSubstackで、Googleが信頼できる参照先を20年間かけて構築したにもかかわらず、「嘘をつくボタン」を追加したと書き記しました。

彼がこの機能に対する主な懸念は、生成された画像がGoogle Earthプラットフォームの権威を借りることでした。

BBC Verify はツールを使用して、縮小されたエッフェル塔、グレート・ピラミッドを飲み込む陥没孔、キエフのロシア軍戦車などを生成しました。ヴァン・エス氏はまた、メキシコ国境での難民やガザの病院横の爆撃跡を含む画像も作成しましたが、これらに対して何の抵抗もありませんでした。

NPRはイランの哈尔克島が炎に包まれる様子や、洪水に浸かった米国議会議事堂の画像を生成し、AFPはパリでの爆発やイランの核施設の画像を捏造しました。

404 Mediaのスタッフは 農地に高層ビルを追加し、ロサンゼルスの「ホームレスキャンプ」を配置し、Googleの自社ビルの前で抗議活動を行いました。

なぜ衛星画像は信頼できるのか？

オープンソースの分析家は、数百マイル上空から撮影された写真は高価で偽造が困難であるため、Google Earthの画像に依存しています。

調査グループBellingcatのシニアリサーチャーであるジェイク・ゴディン氏は、以前にも偽造された衛星画像が表面化していたことを明らかにしました。例えば、米国とイスラエルがイランと衝突した際、バーレーンの米軍基地での被害が偽装されていました。しかし、ワンクリックで生成できる機能が追加されたことで、偽造が大量生産されやすくなりすぎていると説明しました。

地理空間アナリストで非営利団体Common Spaceの共同創設者であるビル・グリーア氏は、衛星画像への信頼の浸食は「特に有害な影響を及ぼす可能性がある」と述べています。

Googleは、ツールで作成されたすべての画像にはGeminiアプリまたは検索のレンズ機能を通じて検証可能なSynthIDのデジタル透かしが含まれていると説明しました。また、有害なトピックに関する画像の作成は許可していないとも記しました。しかし、その直後に BBC Verifyは、偽物のGoogle Earth画像を本物だと見なすようにGeminiをだますことができることを発見しました。

Googleのプロンプトフィルタリングも簡単に回避されました。英国議会議事堂の外で「裏切り者を絞首刑にする」ための絞首台を建設するリクエストは拒否されましたが、同じプロンプトのより曖昧なバージョンは通過しました。

Googleはその後、この機能を撤回しました。地理空間の専門家はツールを有用だと見なしていましたが、ユーザーはポリシーに違反する生成画像のスクリーンショットを共有していたと述べています。より強力なガードレールの実装に取り組む予定ですが、ツールが復活するかどうかは未定です。