Google Earth откатывает инструмент ИИ для спутниковых изображений после волны критики
- Google включила, а затем, примерно через день, отключила функцию Google Earth, которая использовала модель Nano Banana 2 для создания вымышленных сцен поверх реальных спутниковых снимков.
- Журналисты и исследователи открытых источников, которые опираются на эти снимки для подтверждения фактов войн и катастроф, предупредили, что это затопит интернет правдоподобными геопространственными подделками.
- Google заявляет, что перерабатывает эту функцию с усилением мер контроля, поэтому её возвращение остаётся неопределённым.
Google удалила новую функцию Google Earth примерно через день работы, потому что исследователи дезинформации предупредили, что она позволяет любому размещать убедительные фальшивые сцены на собственных спутниковых снимках Google.
Функция подверглась сильной критике, причем несколько профессионалов призвали к ее удалению. Google попыталась внедрить меры предосторожности, которые позволили бы ей сохранить работу функции, но в конечном итоге сдалась.
Почему Google одобрила дезинформацию?
Google недавно запустила и быстро удалила функцию Google Earth под названием «создать изображение», которая использовала модель Google Nano Banana 2 для превращения текстового запроса в выдуманную сцену, наложенную на реальные спутниковые, аэрофотоснимки и 3D-карты.
Менеджер продукта Брайан Хоровиц сказал, что пользователи могут приблизить место на веб-версии, нажать кнопку и ввести все, что они хотят, чтобы там появилось. Google рекламировала это как способ «визуализировать историю, создавать планы недвижимости и многое другое».
Однако исследователь с открытым исходным кодом Хенк ван Эсс написал в Substack, что Google потратила 20 лет на создание надежного источника, только чтобы добавить «кнопку, которая выдумывает вещи».
Его главная проблема с функцией заключалась в том, что сгенерированные изображения заимствовали авторитет платформы Google Earth.
BBC Verify использовала этот инструмент для создания изображения обрушившейся Эйфелевой башни, воронки, поглощающей Великую пирамиду Гизы, и российских танков в Киеве. Ван Эсс также создал изображения с беженцами на мексиканской границе и воронкой от бомбы рядом с больницей в Газе, ни на одно из которых не было оказано сопротивления.
NPR создала изображения плавающего острова Харг в Иране и затопленного Капитолия США, в то время как AFP сфабриковала изображения взрыва в Париже и ядерного объекта в Иране.
Сотрудники 404 Media добавили небоскребы на сельскохозяйственные угодья, разбили «лагерь бездомных» в Лос-Анджелесе и организовали протест перед собственными офисами Google.
Почему спутниковые снимки должны быть достоверными?
Аналитики с открытым исходным кодом полагаются на изображения из Google Earth, потому что фотография, сделанная с высоты в сотни миль, стоит дорого и ее трудно подделать.
Джейк Годин, старший исследователь исследовательской группы Bellingcat, раскрыл, что поддельные спутниковые изображения появлялись и раньше, включая фальшивый ущерб на базе США в Бахрейне во время конфликта США и Израиля с Ираном, но он объяснил, что добавление генератора в один клик делает подделки слишком простыми для массового производства.
Билл Грир, геопространственный аналитик и соучредитель некоммерческой организации Common Space, сказал, что эрозия доверия к спутниковым снимкам является «потенциально особенно разрушительной».
Google объяснила, что каждое изображение, созданное с помощью инструмента, несет цифровую водяную знак SynthID, которую можно проверить через приложение Gemini или функцию Lens в Поиске. Она также написала, что не разрешает создание изображений на вредные темы. Однако вскоре после этого BBC Verify обнаружила, что может обмануть Gemini, заставив ее назвать поддельное изображение Google Earth подлинным.
Фильтрация запросов Google также легко дала сбой. Хотя она отклонила запрос на строительство виселицы, чтобы «повесить предателей» перед парламентом Великобритании, более размытая версия того же запроса прошла.
Google с тех пор убрала функцию, заявив, что, хотя геопространственные профессионали сочли инструмент полезным, люди делились скриншотами сгенерированных изображений, нарушающих ее политику. Она заявила, что будет работать над внедрением более строгих мер предосторожности, но вернется ли инструмент, остается открытым вопросом.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Часто задаваемые вопросы
Что делал новый инструмент Google Earth от Google?
Функция «создать изображение» позволяла пользователям вводить запрос и генерировать ИИ-изображения, созданные с помощью модели Nano Banana 2, накладываемые на реальные спутниковые, аэрофотоснимки и 3D-данные Google Earth, которые затем можно было скачивать и распространять.
Почему Google откатила эту функцию?
Исследователи дезинформации продемонстрировали, что инструмент способен создавать убедительные ложные спутниковые сцены — от затопленного Капитолия в США до ядерного объекта в Иране. Google отключила функцию после того, как увидела сгенерированные изображения, которые, по её мнению, нарушали политику компании, и сейчас работает над усилением защитных механизмов.
Размечает ли Google созданные с помощью ИИ изображения?
Да. Google утверждает, что каждое изображение, созданное с помощью инструмента, содержит невидимый водяной знак SynthID и может быть проверено в приложении Gemini или Lens в Поиске, однако BBC Verify обнаружил, что можно обмануть Gemini, заставив его принять подделку за настоящее изображение, а некоторые сторонние инструменты обнаружения пропустили этот контент.
Ханна Коллимор
Ханна — писатель и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптоиндустрии. В Cryptopolitan Ханна работает над новостной страницей, освещая и анализируя последние события в сферах DeFi, RWA, криптовалютного регулирования, искусственного интеллекта и передовых технологий. Она окончила Университет Аркадии со степенью бакалавра делового администрирования.
