Поддельное изображение ИИ: кучи мусора на улицах Парижа становятся вирусными

Столица Франции Париж активно обсуждалась в Таиланде на прошлой неделе после того, как в интернете появились сгенерированные ИИ изображения, показывающие кучи мусора на улицах Парижа. 

Поддельное изображение ИИ показывает свалки по всему Парижу

Видеоролик, собранный из изображений, набрал более 400 000 просмотров на различных платформах, введя в заблуждение многих людей, особенно в Таиланде, заставив их поверить и оставить комментарии, умаляющие заслуги города.

В одном из комментариев кто-то написал: «Вот как выглядит французская столица Париж. Город мечты… теперь превратившийся в это в реальности».

Некоторые винили в этом недавний кризис во Франции, один пользователь сказал: «Вот что происходит, когда люди бунтуют», а другой таиландский комментатор добавил: «Это темные времена развитых стран. Таиланду лучше развиваться постепенно. Я горжусь тем, что я таиландец».

На самом деле, эти изображения были поддельными, и сообщений о мусоре на улицах Парижа не было. Дальнейшие расследования Франс Пресс (AFP) подтвердили, что изображения были сгенерированы с помощью инструмента генерации изображений ИИ администратором страницы Facebook под названием «Nik Art» в июле. 

Администратор Facebook признался в использовании Midjourney для создания изображений и также предоставил текстовые запросы. 

Ранее в июле Франция также попала в заголовки нескольких СМИ из-за сгенерированного ИИ изображения президента Франции Эммануэля Макрона. На фотографии президент сидел на стуле посреди улицы, а за ним горела куча мусора. 

Конечно, не было никаких доказательств того, что президент находился в такой обстановке, и многие считали, что изображение было сгенерировано с помощью Midjourney. Было несколько других случаев с поддельными изображениями ИИ, что вызвало много разговоров и призывов к регулированию генеративного ИИ. 

Шаг Google по регулированию поддельных изображений ИИ

Интернет-гигант Google начал внедрять меры для выявления реалистичных поддельных изображений. В марте компания запустила новый инструмент, помогающий предотвратить распространение ложной информации с использованием изображений. Инструмент позволит пользователям получать более контекстную информацию об изображениях, такую как дата публикации, дата индексации в Google и происхождение изображения, среди прочего.

Google заявил, что эта функция будет поддерживаться несколькими издателями, такими как Midjourney и Shutterstock, включая собственные модели генеративного ИИ компании. 

«Мы также объявляем, что по мере начала внедрения возможностей генерации изображений мы обеспечим, чтобы каждое из наших сгенерированных ИИ изображений имело маркировку в исходном файле, чтобы предоставить вам контекст, если вы встретите его вне наших платформ. Создатели и издатели смогут добавлять аналогичные маркировки, так что вы сможете видеть метку на изображениях в Google Search, указывающую, что они сгенерированы ИИ», — говорится в объявлении.