Meta внедряет маркировку ИИ-контента к маю в ответ на опасения по поводу дипфейков

Чтобы успокоить опасения пользователей и правительств относительно дипфейков, гигант социальных сетей Facebook и Instagram Meta объявила в пятницу, что начнет маркировать ИИ-контент в мае. Социальный медиа-гигант также заявил, что, чтобы уважать право на свободу слова, он больше не будет удалять измененные фотографии и звуки, которые не нарушают его политику, а вместо этого будет полагаться на терминологию и контекст. Корпорация объявила, что будет включать метку «Создано с помощью ИИ». Посты в Facebook, Threads и Instagram подпадают под эту политику.

Meta объявила, что начнет маркировать больше аудио, видео и изображений как созданных искусственным интеллектом (ИИ), признав, что ее текущая политика «слишком узкая». Хотя компания не уточнила свой метод обнаружения, метки будут применяться либо когда пользователи признаются в использовании ИИ-инструментов, либо когда Meta распознает контент с помощью своих индустриальных стандартов ИИ-индикаторов изображений.

Meta реагирует на критику совета по надзору

Изменения были вызваны критикой со стороны совета по надзору Meta, который является независимой оценочной панелью для интернет-гиганта, модифицирующего материалы. С огромными достижениями в области ИИ и легкостью, с которой медиа можно манипулировать для создания высокоубедительных дипфейков, совет попросил Meta в феврале

быстро пересмотреть свою стратегию манипулирования медиа. В середине важного года выборов как на местном, так и на глобальном уровне совет выпустил свое предупреждение на фоне опасений по поводу растущего злоупотребления ИИ-приложениями для распространения дезинформации на платформах.

Моника Бикерт, вице-президент по политике в области контента, сказала:

«Мы согласны с аргументом Совета по надзору о том, что наш существующий подход слишком узок, поскольку он охватывает только видео, которые созданы или изменены с помощью ИИ, чтобы заставить человека казаться говорящим то, чего он не говорил».

Источник: Meta

В ответ на рекомендации совета по надзору Meta решила изменить свой подход к манипулированию медиа. Вместо полного удаления компания теперь будет полагаться на маркировку и контекстуализацию для обеспечения прозрачности относительно происхождения и подлинности контента. Как говорит Meta, это связано с ее приверженностью свободе слова при защите от вреда, наносимого вводящими в заблуждение или обманчивыми медиа.

Внедрение маркировки ИИ-контента

Проект маркировки от Meta будет реализован в два этапа, первый из которых начнется в мае 2024 года. Контент, созданный ИИ—включающий различные форматы медиа, такие как аудио, видео и изображения—будет распознан и соответствующим образом категоризирован на этом этапе. Чтобы предупредить пользователей о возможности манипуляций, контент, который считается имеющим высокий риск обмана общественности, также будет маркироваться более заметно.

Удаление измененных медиа только на основе предыдущей политики будет прекращено как часть второго этапа развертывания Meta, который должен запуститься в июле. Если ИИ-манипулированный контент не нарушает другие Стандарты сообщества, такие как запрещающие разжигание ненависти или вмешательство в выборы, он останется доступным на платформе согласно новым нормам. Meta стремится найти баланс между сохранением целостности своих платформ и обеспечением свободы выражения мнений, и этот метод представляет эту приверженность.

Бикерт добавила: 

«Метки будут охватывать более широкий спектр контента, помимо манипулированного контента, который Совет по надзору рекомендовал маркировать». 

Источник: Meta Inc.

Независимо от того, был ли он создан с помощью ИИ-инструментов или нет, контент, нарушающий другие правила — такие как касающиеся буллинга, вмешательства в выборы и преследований — все еще будет удаляться.

Крупные цифровые гиганты и ИИ-компании достигли соглашения в феврале о борьбе с манипулированным контентом, предназначенным для обмана избирателей, что связано с этими новыми подходами к маркировке. Единый стандарт водяных знаков для фотографий, сгенерированных ИИ-приложениями, уже был согласован между Meta, Google и OpenAI.