В ответ на опасения по поводу дипфейков компания Meta внедрит к маю функцию маркировки контента с помощью ИИ

Чтобы развеять опасения пользователей и правительств по поводу дипфейков, гигант Facebook и Instagram Meta объявил в пятницу, что начнет помечать контент, созданный с помощью ИИ, в мае. Социальная сеть также заявила, что, чтобы уважать право на свободу слова, она больше не будет удалять измененные фотографии и звуки, не нарушающие ее политику, и вместо этого будет полагаться на терминологию и контекст, как заявила корпорация, и будет добавлять метку «Создано с помощью ИИ». Эта политика распространяется на публикации в Facebook, Threads и Instagram.

Компания Meta объявила о том, что начнет классифицировать больше аудио-, видео- и графического контента как созданного с помощью искусственного интеллекта (ИИ), признав, что ее нынешняя политика «слишком узкая». Хотя компания не уточнила метод обнаружения, метки будут применяться либо когда пользователи признаются в использовании инструментов ИИ, либо когда Meta распознает контент с помощью своих стандартных отраслевых индикаторов изображений, созданных с помощью ИИ.

Компания Meta отвечает на критику со стороны наблюдательного совета

Изменения были вызваны критикой со стороны наблюдательного совета Meta,dent оценочной комиссии интернет-гиганта, занимающейся модификацией контента. Учитывая колоссальные достижения в области искусственного интеллекта и легкость, с которой медиаконтент можно превратить в весьма убедительные дипфейки, совет в феврале обратился к Meta с просьбой внести соответствующие изменения

Совет директоров решил быстро пересмотреть свою стратегию манипулирования СМИ. В разгар важного года выборов как на местном, так и на глобальном уровне, совет выпустил предупреждение на фоне опасений по поводу растущего злоупотребления приложениями на основе искусственного интеллекта для распространения дезинформации на платформах.

Вице-dent по контентной политике Моника Бикерт заявила:

«Мы согласны с аргументом Наблюдательного совета о том, что наш существующий подход слишком узок, поскольку он охватывает только видео, созданные или измененные с помощью ИИ таким образом, чтобы создать впечатление, будто человек говорит то, чего он не говорил»

Источник: Meta

В ответ на рекомендации наблюдательного совета компания Meta решила изменить свой подход к манипулированию контентом. Вместо полного удаления компания теперь будет использовать маркировку и контекстуализацию для обеспечения прозрачности в отношении происхождения и подлинности контента. Как заявляет Meta, это связано с ее приверженностью свободе слова и одновременно с защитой от вреда, причиняемого вводящим в заблуждение или обманчивым контентом.

Внедрение маркировки контента с помощью ИИ

Проект по маркировке контента от Meta будет реализован в два этапа, первый из которых начнётся в мае 2024 года. контент, созданный с помощью ИИ, — включая различные медиаформаты, такие как аудио, видео и изображения, — будет распознаваться и соответствующим образом классифицироваться. Для предупреждения пользователей о возможности манипуляций, контент, который считается представляющим высокий риск обмана общественности, также будет помечаться более заметно.

Удаление измененного контента исключительно на основании предыдущей политики будет прекращено в рамках второго этапа внедрения Meta, который должен начаться в июле. Если контент, созданный с помощью ИИ, не нарушает другие стандарты сообщества, например, запрещающие разжигание ненависти или вмешательство в выборы, он останется доступным на платформе в соответствии с новыми правилами. Meta стремится к балансу между сохранением целостности своих платформ и обеспечением свободы выражения мнений, и этот метод отражает это стремление.

Бикерт добавил: 

«Эти маркировки будут охватывать более широкий спектр контента в дополнение к контенту, подвергшемуся манипуляциям, который Наблюдательный совет рекомендовал маркировать» 

Источник: Meta Inc.

Независимо от того, был ли контент создан с использованием инструментов искусственного интеллекта или нет, контент, нарушающий другие правила, такие как правила, касающиеся травли, вмешательства в выборы и домогательств, все равно будет удален.

Крупнейшие цифровые гиганты и компании, занимающиеся искусственным интеллектом, в феврале достигли соглашения о борьбе с манипулированным контентом, призванным ввести избирателей в заблуждение, что связано с новыми подходами к маркировке. Единый стандарт водяных знаков для фотографий, созданных с помощью приложений ИИ, уже был согласован компаниями Meta, Google и OpenAI.