Совет по надзору Meta призывает к более строгой политике в отношении контента после удаления видео с дипфейком британского политика
- Совет по надзору Meta обязал компанию удалить видео, созданное с помощью ИИ, в котором ложно изображено, что шотландский член совета лейбористов поддерживает сексуальное насилие со стороны беженцев.
- Совет признал политику Meta в отношении дипфейков фундаментально недостаточной.
- Компании было предоставлено девять рекомендаций от Совета и 60 дней для ответа.
Совет по надзору Meta постановил, что компания должна удалить сгенерированный ИИ видеоролик о шотландском советнике от Лейбористской партии, в котором ложно изображалось ее одобрение сексуального насилия со стороны беженцев.
Изначально компания решила оставить видео в сети, и помимо отмены этого решения, совет по надзору также предупредил, что обращение Meta с дипфейками подвергает пользователей риску обмана.
Какое сфабрикованное видео Meta должна удалить?
В ноябре 2025 года в Facebook появился ролик с использованием образа местного политика Лейбористской партии из Шотландии. В видео образ говорил: «Беженцы здесь приветствуются, даже если они изнасиловали наших женщин, потому что белые люди тоже так делают».
Совет по надзору Meta описал изображение как реалистичное, но синтетическое, отметив, что аудио не совпадало с движениями ее лица. Видео было найдено в альбоме, который также содержал фотографию нескольких названных женщин, включая советника, на антифашистской акции протеста.
Два человека, один из которых сама советник, пожаловались на видео в соответствии с правилами Meta о буллинге и преследовании, но системы Meta никогда не передали его на рассмотрение человеку, и оно оставалось в сети после двух апелляций.
Третий пользователь затем обратился в Совет, и даже после того, как он пожаловался, Meta утверждала, что видео не нарушало правил и не требовало метки ИИ. Советник сказала Совету, что видео было «довольно травматичным».
Большинство членов Совета сочло, что ролик нарушил политику Meta в отношении ненавистнического поведения, поскольку он обвинял беженцев как целую группу в серьезных преступлениях и хищном сексуальном поведении, отвергая утверждение Meta о том, что он был направлен только против некоторых беженцев. Совет не рассматривал его как удаляемую дезинформацию, но заявил, что на нем должна была быть метка «Высокий риск ИИ».
Совет согласился с одним пунктом в пользу Meta, а именно с тем, что правила о буллинге и преследовании не требовали удаления, поскольку избранный должностное лицо является публичной фигурой, имеющей меньшую защиту, чем частное лицо.
Какие рекомендации Совет по надзору дает Meta?
Совет также вмешался во второй случай, который касался интервью с женщиной, продвигающей образование в области менструального здоровья, с использованием ИИ-манипуляций. После вмешательства Совета Meta удалила видео за буллинг.
Эти два постановления побудили Совет назвать меры предосторожности Meta «постоянно и фундаментально недостаточными».
Совет рекомендовал предложил Meta снизить порог для меток «высокий риск», чтобы они не зарезервировались только для выборов или кризисов, и заменить некоторые метки промежуточным экраном с переходом по клику. Он также предложил, чтобы контент с высоким риском ИИ лишался монетизации, понижался в выдаче или удалялся из рекомендаций, с escalating penalties для повторных распространителей.
Он также хочет, чтобы Meta приоритизировала подозрительный контент ИИ для проверки человеком при жалобе, публиковала ежегодные данные о том, как часто применяются метки ИИ, включая посты о политиках, и формулировала правила голосования и переписи населения так, чтобы они применялись глобально, а не только в США. У Meta есть 60 дней на ответ Совету.
Правительства и платформы по всему миру ужесточают свои правила в отношении синтетических медиа. Например, Верховный народный суд Китая установил правила ответственности 7 сентября, согласно которым создание или распространение ИИ-реплики чьего-либо лица или голоса без разрешения является нарушением. сообщил Cryptopolitan что Пекин отдельно удалил более 14 000 ИИ-продуктов на первом этапе своей кампании «Цинлан» в начале этого года.
Европейский союз Кодекс практики по прозрачности контента, сгенерированного ИИ призывает поставщиков маркировать вывод ИИ, а деплойеров — маркировать дипфейки.
Политика Google Play в отношении контента, сгенерированного ИИ запрещает пользователям публиковать сексуальный контент с дипфейками без согласия и избирательный контент, который «явно обманчив или ложен».
Лишь немногим пользователям разрешено использовать ИИ для написания неопубликованных материалов на Medium, и платформа прямо запрещает дезинформацию, сгенерированную ИИ .
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Часто задаваемые вопросы
Что решил Совет по надзору Meta?
Совет отменил решение Meta оставить в сети видео с дипфейком шотландского члена совета лейбористов, потребовав его удаления согласно политике «Ненавистнический контент», поскольку оно обвиняет беженцев как группу в хищных сексуальных преступлениях, а также признало правила маркировки дипфейков Meta недостаточными.
Почему видео с дипфейком было признано ненавистническим высказыванием, а не просто дезинформацией?
Большинство членов Совета заявило, что видео содержит обвинения в серьезных уголовных преступлениях и хищном сексуальном поведении в отношении беженцев как целой группы, что нарушает правила Meta о «Ненавистническом контенте»; они пришли к выводу, что удаление было оправдано не только как дезинформация, но и потому, что ролик должен был быть помечен как «Высокий риск ИИ».
Что должна сделать Meta дальше?
У Meta есть 60 дней на ответ по девяти рекомендациям Совета, включая снижение порога для меток «высокий риск», приоритетную проверку сообщённого контента с участием ИИ человеком, демонетизацию или понижение в выдаче контента с высоким риском и публикацию ежегодных данных о частоте применения меток ИИ.
Ханна Коллимор
Ханна — писатель и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптоиндустрии. В Cryptopolitan Ханна работает над новостной страницей, освещая и анализируя последние события в сферах DeFi, RWA, криптовалютного регулирования, искусственного интеллекта и передовых технологий. Она окончила Университет Аркадии со степенью бакалавра делового администрирования.
