Метаданные используются для маркировки медиаконтента, созданного с помощью ИИ, в Facebook и Instagram

Компания Meta, владеющая Facebook и Instagram, заявила, что прекратит применять свои ручные теги к синтетическим медиафайлам, созданным начиная с мая. Подобные правила могут снизить нагрузку от распространенных атак с использованием дипфейков и дезинформации на её медиаресурсы.

Противодействие проблемам, связанным с дезинформацией

Ожидается, что Meta предпримет новые меры для смягчения распространения синтетического контента в ответ на растущую критику и быстрое развитие технологий искусственного интеллекта. Начиная с мая 2024 года, компания введет метки «Сделано с помощью ИИ», указывающие на то, что текст, изображения, аудио и видео были созданы или изменены с использованием искусственного интеллекта.

Решение Meta помечать материалы, созданные с помощью ИИ, является частью масштабной кампании компании по предоставлению пользователям большего объема информации и, по сути, большей прозрачности. Это, в свою очередь, означает, что Facebook не сможет удалять поддельные материалы, но сможет дополнительно помечать их, поясняя контекст. В конце концов, именно это, по словам Марка Цукерберга, генерального директора Meta, компания и собирается сделать: в конечном итоге запустить образовательную инициативу о вреде манипулированных медиа. Так утверждается в расследовании наблюдательного совета, инициированном Facebook.

Однако высказывались опасения, что приложения на основе искусственного интеллекта, используемые в кампаниях по распространению фейковых новостей, могут быть использованы для вмешательства в избирательный процесс. Во-вторых, совет выразил настоятельную необходимость и подчеркнул острую потребность в эффективных контрмерах, особенно во время выборов в любой стране.

Планирование внедрения и корректировка политики

Медиаконтент, подвергшийся манипуляциям и удаленный до введения этой политики, будет повторно доступен позже и сможет просматриваться пользователями на новостных страницах Facebook. Контент, обработанный ИИ в соответствии с новым стандартом, будет удален только в том случае, если он нарушает другие правила платформы, такие как правила, запрещающие разжигание ненависти или вмешательство в избирательный процесс.

В рамках многочисленных соглашений, касающихся манипулирования контентом, Meta уделяет большое внимание сотрудничеству с другими технологическими гигантами и разработчиками ИИ. Meta, Google и OpenAI договорились о взаимодействии посредством невидимого единого водяного знака, который они собираются использовать для своих приложений автоматизированной обработки изображений с помощью ИИ. Однако, при решении этой задачи, на данный момент остаются открытыми вопросы об эффективности подобных решений, особенно тех, которые касаются открытого исходного кода, не зависящего от таких политик.

Недавние случаи создания дипфейков с помощью ИИ, которые оказались подлинными, лишь усилят опасения общества по поводу фейкового контента. Сервис Meta стремится решить эту проблему, помечая фейковый контент и предоставляя пользователям только ту информацию, которая им действительно необходима для подтверждения достоверности контента, с которым они взаимодействуют на сайте.

Недавнее нововведение, когда гигант социальных сетей Facebook заявил, что теперь будет маркировать контент, созданный с помощью ИИ, как в Facebook, так и в Instagram, можно рассматривать как шаг по предотвращению страха, порождаемого дипфейками и дезинформацией. Идея состоит в том, чтобы таким образом очистить все «мусор», нейтрализовав все опасности, возникающие в результате использования поддельного материала, и защитив принципы свободы слова. Эти меры оказались весьма успешными в смягчении проблем, вызванных ИИ, хотя проблема по-прежнему остается острой, учитывая быстрые темпы развития ИИ и изменчивую природу фейковых новостей.