Google Earth、批判の嵐を受け衛星画像AIツールを撤回 

Googleは、偽情報研究者らが、この機能によって誰でもGoogle自身の衛星画像に説得力のある偽のシーンを重ね合わせることができると警告したことを受け、Google Earthの新機能を運用開始から約1日で削除した。.

この機能は激しく批判され、多くの専門家が削除を求めた。Googleは機能を維持するための対策を講じようとしたが、最終的には撤回を余儀なくされた。.

なぜGoogleは誤情報を承認したのか？

Googleは最近、「画像の作成」と呼ばれるGoogle Earthの機能をリリースしたが、すぐに削除した。この機能は、 GoogleのNano Banana 2モデル 、入力されたプロンプトを実際の衛星画像、航空写真、3Dマップデータの上に重ね合わせた架空のシーンに変換するものだった。

プロダクトマネージャーのブライアン・ホロウィッツ氏によると、ユーザーはウェブ版で任意の場所にズームインし、ボタンをタップして、そこに表示させたいテキストを入力できるという。Googleはこれを「歴史を視覚化したり、不動産計画を作成したり、その他さまざまな用途に活用できる」方法として売り込んでいる。

しかし、オープンソース調査員のヘンク・ファン・エスはSubstackに、Googleは20年かけて信頼できる情報源を構築したにもかかわらず、「でっち上げのボタン」を追加しただけだと書いた。

彼がこの機能について最も問題視していたのは、生成される画像がGoogle Earthプラットフォームの権威を借りてしまう点だった。.

BBC Verifyは このツールを使って 、崩壊したエッフェル塔、ギザの大ピラミッドを飲み込む陥没穴、キエフに展開するロシアの戦車などの画像を生成した。ヴァン・エス氏はまた、メキシコ国境の難民やガザの病院のそばにある爆弾のクレーターなどの画像も作成したが、いずれも何の抵抗も受けなかった。

NPRはイランのハルグ島が炎上する映像と浸水した米国議会議事堂の映像を制作し、AFPはパリでの爆発とイランの核施設の映像を捏造した。

404 Mediaのスタッフは 超高層ビルを建てたり 、ロサンゼルスに「ホームレスの野営地」を設置したり、Googleのオフィス前で抗議活動を行ったりした。

衛星画像はなぜ信頼できるべきなのか？

オープンソースのアナリストは、数百マイル上空から撮影された写真は費用がかかり、偽造も難しいため、Google Earthの画像に頼っている。.

調査報道グループ「ベリングキャット」の上級研究員であるジェイク・ゴディン氏は、偽造された衛星画像は以前にも出回っており、イランとの米イスラエル紛争中にバーレーンの米軍基地で発生した偽の被害画像もその一つだと明かした。しかし、ワンクリックで生成できる機能を追加すると、偽造画像が大量生産されやすくなると説明した。.

地理空間アナリストであり、非営利団体Common Spaceの共同創設者であるビル・グリア氏は、衛星画像に対する信頼の低下は「特に深刻なダメージを与える可能性がある」と述べた。

Googleは、このツールで作成されたすべての画像にはSynthIDというデジタル透かしが付いており、Geminiアプリまたは検索のレンズ機能で検証できると説明した。また、有害なテーマに関する画像の作成は許可していないとも述べている。しかし、その後すぐに BBC Verifyが 偽のGoogle Earth画像を本物と認識させるようにGeminiを騙すことができることを発見した。

Googleのプロンプトフィルタリングも簡単に失敗した。英国議会の外に「反逆者を絞首刑にする」ための絞首台を建設するという要求は拒否されたが、同じプロンプトのより曖昧なバージョンは通過してしまった。.

Googleはその後、この機能を削除した。地理空間情報の専門家はこのツールを便利だと感じていたものの、生成された画像のスクリーンショットがGoogleのポリシーに違反して共有されていたためだと説明している。Googleはtron安全対策を講じる予定だと述べているが、このツールが復活するかどうかは未だ不明だ。.