Meta будет маркировать медиа, сгенерированные ИИ, на Facebook и Instagram

Meta, материнская компания Facebook и Instagram, заявила, что прекратит применять свои ручные метки к синтетическим медиа, созданным с мая. Такие меры могут облегчить бремя обычных атак с использованием дипфейков и дезинформации на ее медиаплатформах.

Реакция на проблемы дезинформации

Ожидается, что Meta предпримет новые действия для смягчения распространения синтетического контента в ответ на растущую критику и быстро развивающиеся технологии ИИ. Начиная с мая 2024 года компания введет метки «Создано с помощью ИИ», чтобы указывать, когда текст, изображения, аудио и видео были созданы или изменены с использованием искусственного интеллекта.

Решение Meta маркировать материалы, произведенные ИИ, является частью широкой кампании компании по предоставлению пользователям большей информации и, следовательно, большей прозрачности. Это означает, что Facebook не будет удалять поддельные материалы, но может дополнительно маркировать их, помещая в контекст. Именно это, как заявил генеральный директор Meta Марк Цукерберг, компания и будет делать: в конечном итоге запустит образовательную инициативу о вреде манипулированных медиа. Об этом свидетельствует расследование совета по надзору, инициированное Facebook.

Однако существовала обеспокоенность тем, что приложения на базе ИИ в кампаниях по распространению фейковых новостей могут использоваться для вмешательства в избирательный процесс. Во-вторых, совет выразил срочность и подчеркнул острую необходимость в эффективных контрмерах, особенно в период выборов в любой стране.

Планирование внедрения и изменения политики

Медиа, манипулированные которыми были удалены до введения политики, будут повторно включены в более поздний период, доступные для просмотра потребителями на страницах новостного контента Facebook. Контент, манипулированный с помощью ИИ в соответствии с новым стандартом, будет удаляться только в том случае, если он нарушает другие правила платформы, такие как правила против разжигания ненависти или вмешательства в выборы.

В числе многих соглашений, касающихся манипулированного контента, Meta уделяет большое внимание сотрудничеству с другими технологическими гигантами и разработчиками ИИ. Meta, Google и OpenAI согласились с договором о совместимости через невидимый единый тег водяного знака, который они будут использовать для своих приложений автоматизированной генерации изображений на базе ИИ. Однако при решении такой проблемы определенные вопросы эффективности таких решений, особенно тех, которые относятся к открытому исходному коду, который может не полагаться на такие политики, должны оставаться актуальными на данный момент.

Недавние случаи дипфейков, сгенерированных ИИ, которые оказались подлинными, подольют масла в огонь социальных страхов по поводу фейкового контента. Сервис Meta направлен на решение этой проблемы путем маркировки фейкового контента и предоставления пользователям только той информации, которая действительно необходима для понимания целостности контента, с которым они взаимодействуют на его сайте.

Это недавнее развитие событий, когда гигант социальных сетей Facebook обозначил, что теперь будет маркировать медиа, сгенерированные ИИ, как на Facebook, так и на Instagram, можно рассматривать как превентивный шаг против страха, вызванного дипфейками и дезинформацией. Идея заключается в том, чтобы очистить все завалы с помощью этого подхода, нейтрализуя все опасности, возникающие из-за использования оторванных от контекста материалов, и защищая принципы свободы слова. Эти меры оказались весьма успешными в смягчении проблем, вызванных ИИ, хотя проблема остается подавляющей, учитывая быстрые темпы развития ИИ и изменчивую природу фейковых новостей.