Google Earth zieht KI-Tool für Satellitenbilder nach Kritikwelle zurück
- Google schaltete eine Google Earth-Funktion ein und zog sie etwa einen Tag später wieder zurück. Diese Funktion nutzte das Nano Banana 2-Modell von Google, um auf echten Satellitenbildern gefälschte Szenen zu generieren.
- Journalisten und Open-Source-Ermittler, die auf diese Bilder angewiesen sind, um Kriege und Katastrophen zu verifizieren, warnten davor, dass dies das Internet mit glaubwürdigen geospatialen Fälschungen fluten würde.
- Google sagt, es arbeite an der Neuentwicklung der Funktion mit stärkeren Sicherheitsvorkehrungen; ihr Wiedereinzug bleibt ungewiss.
Google hat eine neue Google Earth-Funktion nach etwa einem Tag Betrieb entfernt, weil Forscher für Desinformation gewarnt hatten, dass sie es jedem ermöglichen würde, überzeugende falsche Szenen auf Googles eigene Satellitenbilder zu legen.
Die Funktion wurde stark kritisiert, wobei mehrere Fachleute ihre Entfernung forderten. Google versuchte, Schutzmaßnahmen zu implementieren, die es ihm ermöglichen würden, die Funktion am Laufen zu halten, gab aber letztlich nach.
Warum genehmigte Google Fehlinformationen?
Google hat kürzlich eine Google Earth-Funktion namens „create image“ gestartet und schnell wieder entfernt, die das Google Nano Banana 2 Modell nutzte, um eine getippte Eingabeaufforderung in eine erfundene Szene umzuwandeln, die über echten Satelliten-, Luftbild- und 3D-Kartendaten liegt.
Ein Produktmanager, Bryan Horowitz, sagte, dass Nutzer auf der Webversion zu einem Ort zoomen, auf die Taste tippen und tippen könnten, was immer dort erscheinen sollte. Google warb damit als eine Möglichkeit, „Geschichte zu visualisieren, Immobilienpläne zu erstellen und mehr.“
Der Open-Source-Ermittler Henk van Ess schrieb jedoch auf Substack, dass Google 20 Jahre damit verbracht habe, eine vertrauenswürdige Referenz aufzubauen, nur um dann einen „Knopf hinzuzufügen, der Dinge erfindet.“
Sein Hauptproblem mit der Funktion war, dass die generierten Bilder die Autorität der Google Earth-Plattform ausleihen würden.
BBC Verify nutzte das Tool, um einen eingestürzten Eiffelturm, ein Loch, das die Große Pyramide von Giza verschlingt, und russische Panzer in Kiew zu generieren. Van Ess erstellte auch Bilder, die Flüchtlinge an der mexikanischen Grenze und einen Bombenkrater neben einem Krankenhaus in Gaza zeigten, wogegen es keinen Widerstand gab.
NPR produzierte Bilder von Irans Kharg-Insel in Flammen und einem überfluteten US-Kapitol, während AFP Bilder einer Explosion in Paris und einer Nuklearanlage im Iran fälschte.
Mitarbeiter von 404 Media fügt Wolkenkratzer auf Ackerland hinzu, pflanzten ein „Obdachlosenlager“ in Los Angeles und inszenierten eine Protestaktion vor den eigenen Büros von Google.
Warum sollte Satellitenbildmaterial glaubwürdig sein?
Open-Source-Analysten verlassen sich auf Bilder von Google Earth, weil ein Foto, das aus Hunderten von Meilen Höhe aufgenommen wurde, teuer und schwer zu fälschen ist.
Jake Godin, ein leitender Forscher der Ermittlungsgruppe Bellingcat, enthüllte, dass bereits zuvor gefälschte Satellitenbilder auftauchten, darunter falsche Schäden an einer US-Basis in Bahrain während des US-israelischen Konflikts mit dem Iran, erklärte aber, dass das Hinzufügen eines Ein-Klick-Generators die Fälschungen zu einfach zur Massenproduktion mache.
Bill Greer, ein Geospatial-Analyst und Mitbegründer der gemeinnützigen Organisation Common Space, sagte, der Vertrauensverlust in Satellitenbilder sei „potenziell besonders schädlich.“
Google erklärte, dass jedes mit dem Tool erstellte Bild einen SynthID-Digitalwasserzeichen trägt, das über die Gemini-App oder die Lens-Funktion in der Suche überprüft werden kann. Es schrieb auch, dass es die Bildgenerierung zu schädlichen Themen nicht erlaubt. Kurz darauf fand BBC Verify jedoch heraus, dass es Gemini dazu bringen konnte, ein gefälschtes Google Earth-Bild als echt zu bezeichnen.
Googles Prompt-Filterung scheiterte ebenfalls leicht. Während es eine Anfrage ablehnte, eine Galgen zu bauen, um „Verräter“ vor dem britischen Parlament aufzuhängen, ging eine vage Version derselben Anfrage durch.
Google hat die Funktion inzwischen zurückgezogen und erklärt, dass zwar Geospatial-Profis das Tool als nützlich empfanden, die Leute jedoch Screenshots von generierten Bildern teilten, die gegen seine Richtlinien verstießen. Es hat erklärt, dass es an der Implementierung stärkerer Schutzmaßnahmen arbeiten wird, aber ob das Tool zurückkehren wird, bleibt eine offene Frage.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was hat das neue Google Earth-Tool von Google getan?
Die Funktion „Bild erstellen“ ermöglichte es Nutzern, einen Prompt einzugeben und ein KI-Bild zu generieren, das mit dem Nano Banana 2-Modell von Google erstellt wurde. Dieses Bild wurde über echte Google Earth-Satelliten-, Luftaufnahmen- und 3D-Bilder gelegt, die dann heruntergeladen und geteilt werden konnten.
Warum hat Google die Funktion wieder zurückgezogen?
Forscher zur Desinformation zeigten, dass das Tool überzeugende gefälschte Satellitenszenen erzeugen konnte – von einer überfluteten US-Kapitol bis hin zu einem Atomstandort im Iran. Google zog die Funktion zurück, nachdem es generierte Bilder sah, die gegen seine Richtlinien zu verstoßen schienen, während es an stärkeren Sicherheitsvorkehrungen arbeitet.
Kennzeichnet Google die von ihm erstellten KI-Bilder?
Ja. Google hat angegeben, dass jedes mit dem Tool erstellte Bild ein unsichtbares SynthID-Wasserzeichen trägt und in der Gemini-App oder über Lens in der Suche überprüft werden kann. BBC Verify stellte jedoch fest, dass es möglich war, Gemini dazu zu bringen, eine Fälschung als echt zu behandeln, und dass einige externe Erkennungstools den Inhalt nicht erkannten.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
