Google Earth отменил использование ИИ для обработки спутниковых изображений после волны критики
- Google сначала включила, а затем, примерно через день, отключила функцию Google Earth, которая использовала модель Nano Banana 2 для создания фейковых сцен поверх реальных спутниковых снимков.
- Журналисты и исследователи, работающие с открытыми источниками и использующие эти изображения для проверки фактов войн и катастроф, предупредили, что это приведет к наводнению интернета достоверными геопространственными подделками.
- Google заявляет, что перестраивает эту функцию сtronстрогими ограничениями, поэтому ее возвращение остается под вопросом.
Компания Google удалила новую функцию Google Earth примерно через сутки после начала работы, поскольку исследователи дезинформации предупредили, что она позволяет любому пользователю накладывать убедительные фальшивые сцены на собственные спутниковые снимки Google.
Эта функция подверглась резкой критике, и многие специалисты призвали к её удалению. Google попытался внедрить меры защиты, которые позволили бы сохранить функцию в рабочем состоянии, но в итоге уступил.
Почему Google одобрил дезинформацию?
Компания Google недавно запустила, а затем быстро удалила функцию Google Earth под названием «создать изображение», которая использовала модель Google Nano Banana 2 для преобразования введенного текста в вымышленную сцену, наложенную на реальные спутниковые, аэрофотоснимки и 3D-карты.
Менеджер по продукту Брайан Горовиц заявил, что пользователи могут увеличить масштаб до нужного места в веб-версии, нажать кнопку и ввести любой текст, который должен там отобразиться. Google представил это как способ «визуализировать историю, создавать планы недвижимости и многое другое»
Однако исследователь открытого исходного кода Хенк ван Эсс написал на Substack, что Google потратил 20 лет на создание надежного справочника, а затем добавил «кнопку, которая выдумывает все на ходу»
Главная проблема, с которой он столкнулся при использовании этой функции, заключалась в том, что сгенерированные изображения будут заимствовать авторитет платформы Google Earth.
BBC Verify использовала этот инструмент для создания изображений разрушенной Эйфелевой башни, провала, поглотившего Великую пирамиду Гизы, и российских танков в Киеве. Ван Эсс также создал изображения беженцев на мексиканской границе и воронки от бомбы рядом с больницей в Газе, ни одно из которых не встретило сопротивления.
NPR опубликовало изображения иранского острова Харг и затопленного Капитолия США, а AFP сфабриковало изображения взрыва в Париже и ядерного объекта в Иране.
Сотрудники 404 Media добавили небоскребы к сельскохозяйственным угодьям, разбили «лагерь бездомных» в Лос-Анджелесе и устроили протест перед офисами самой Google.
Почему спутниковые снимки должны быть достоверными?
Аналитики, работающие с открытым исходным кодом, полагаются на изображения из Google Earth, потому что фотография, сделанная с высоты сотен километров, обходится дорого и её сложно подделать.
Джейк Годин, старший научный сотрудник следственной группы Bellingcat, сообщил, что поддельные спутниковые снимки появлялись и раньше, в том числе фальшивые повреждения на американской базе в Бахрейне во время американо-израильского конфликта с Ираном, но он объяснил, что добавление генератора, работающего в один клик, делает массовое производство подделок слишком простым.
Билл Грир, геопространственный аналитик и соучредитель некоммерческой организации Common Space, заявил, что подрыв доверия к спутниковым снимкам «потенциально особенно опасен»
Google объяснила, что каждое изображение, созданное с помощью этого инструмента, содержит цифровой водяной знак SynthID, который можно проверить через приложение Gemini или функцию Lens в Поиске. Компания также заявила, что не разрешает создание изображений на темы, представляющие угрозу для общества. Однако вскоре после этого BBC Verify обнаружила, что может обмануть Gemini и заставить её признать поддельное изображение Google Earth подлинным.
Фильтрация запросов Google также легко провалилась. Хотя компания отклонила запрос на строительство виселицы для «повешения предателей» перед зданием британского парламента, более расплывчатый вариант того же запроса был пройден.
Впоследствии Google удалила эту функцию, заявив, что, хотя специалисты в области геопространственных технологий сочли инструмент полезным, пользователи делились скриншотами сгенерированных изображений, нарушающими правила компании. Компания заявила, что будет работать над внедрениемtronстрогих мер защиты, но вопрос о возвращении инструмента остается открытым.
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Часто задаваемые вопросы
Что делает новый инструмент Google Earth от Google?
Функция «создать изображение» позволяла пользователям ввести запрос и сгенерировать изображение, созданное с помощью модели Google Nano Banana 2, наложенное поверх реальных спутниковых, аэрофотоснимков и 3D-изображений Google Earth, которое затем можно было загрузить и поделиться им.
Почему Google отменил эту функцию?
Исследователи дезинформации показали, что инструмент может создавать убедительные поддельные спутниковые снимки, от затопленного Капитолия США до ядерного объекта в Иране, и Google заявила, что удалила эту функцию после того, как обнаружила, что сгенерированные изображения, распространяемые пользователями, по-видимому, нарушают ее политику, пока компания работает надtronстрогими мерами безопасности.
Google помечает изображения, созданные с помощью ИИ?
Да. Google заявила, что каждое изображение, созданное с помощью этого инструмента, содержит невидимый водяной знак SynthID, который можно проверить в приложении Gemini или Lens в поиске. Однако BBC Verify обнаружила, что Gemini можно обмануть, заставив его считать подделку настоящей, и что некоторые сторонние инструменты обнаружения пропустили контент.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
