Meta объявляет о расширенной политике маркировки изображений, созданных ИИ

Meta, ранее известная как Facebook, объявила о расширении политики для решения проблем, связанных с распространением контента, созданного с помощью ИИ, на своих платформах, включая Facebook, Instagram и Threads.

В ответ на растущее использование генеративного искусственного интеллекта компания теперь будет внедрять предупреждающие метки на изображениях, созданных ИИ, чтобы информировать пользователей об их искусственном происхождении. Хотя этот шаг считается положительным, остаются опасения относительно его эффективности в борьбе с злоумышленниками и ограничений технологии.

Предупреждающие метки на изображениях, созданных ИИ

Последний сдвиг в политике Meta включает маркировку изображений, созданных ИИ, будь то с использованием собственных генеративных инструментов ИИ компании или инструментов других компаний, метками, указывающими на их искусственный характер. Этот шаг предназначен для снижения риска распространения дезинформации и ложной информации через изображения, созданные ИИ, выдаваемые за настоящие фотографии.

 Meta уже маркировала изображения, созданные ее ИИ, как «Создано с помощью ИИ», в основном идентифицируя цифровую водяную метку, встроенную алгоритмами в результат.

Вызовы и ограничения

Несмотря на приверженность Meta внедрению этих предупреждающих меток, остаются значительные проблемы. Одна из заметных проблем заключается в том, что многие инструменты генерации изображений ИИ не добавляют водяные знаки к своему результату, что позволяет злоумышленникам легко манипулировать и распространять контент, созданный ИИ, без раскрытия информации. 

Более того, технология для надежного обнаружения изображений, созданных ИИ, и их маркировки все еще находится в стадии разработки, и универсально развернутого стандарта не существует.

Коалиция за происхождение и подлинность контента (C2PA), инициатива, основанная Adobe, пыталась согласовать работу компаний в области происхождения контента. Однако разработанная на данный момент технология не является безупречной. 

Исследователи продемонстрировали простоту нарушения или добавления водяных знаков к изображениям, не созданным ИИ, что подрывает их эффективность.

Хани Фарид, профессор Школы информации Калифорнийского университета в Беркли, консультирующий инициативу C2PA, предупреждает, что злоумышленники могут использовать инструменты ИИ, не добавляющие водяные знаки, чтобы еще больше обмануть пользователей. 

Он предполагает, что для надежной идентификации контента, созданного ИИ, может потребоваться комбинация методов идентификации, таких как водяные знаки и технологии на основе хеширования. Водяные знаки менее развиты для медиа, созданных ИИ, помимо изображений, таких как аудио и видео.

Расширение политик и надзор

Хотя новая политика Meta представляет собой шаг вперед в борьбе с поддельным контентом, она не ограничивается только материалом, созданным ИИ. Совет по надзору компании, состоящий из независимых экспертов, недавно поддержал решение Meta оставить в сети видео с президентом Джо Байденом, которое было отредактировано для создания вводящего в заблуждение впечатления. 

Это решение подчеркивает необходимость пересмотра и расширения правил Meta для «манипулированных медиа», чтобы охватить не только контент, созданный ИИ.

Представитель Meta Кевин МакАлистер признает необходимость более широкого подхода, заявляя: «Хотя компании начинают добавлять сигналы в свои генераторы изображений, они еще не начали добавлять их в инструменты ИИ для генерации аудио и видео в том же масштабе». 

Таким образом, Meta работает над добавлением функции, позволяющей пользователям раскрывать факт использования контента, созданного ИИ, при его распространении, чтобы могли быть применены соответствующие метки.