Фейковые видеоролики, созданные с помощью ИИ, на которых венесуэльцы празднуют свержение Мадуро, быстро распространяются в X-Speak и TikTok

В интернете резко возросло количество видеороликов, созданных с помощью ИИ и демонстрирующих фейковые празднования в Венесуэле после отстранения Николаса Мадуро от власти.

Эти видеоролики, полностью сфабрикованные с помощью искусственного интеллекта, показывают большие толпы людей, которые ликуют, размахивают флагами и благодарятdent Дональда Трампа и американских военных. Проблема, однако, в том, что ничего из этого на самом деле не происходило.

Один из первых и самых вирусных роликов был опубликован аккаунтом на X под названием Wall Street Apes, у которого более миллиона подписчиков, и на нем показаны венесуэльские граждане, которые плачут, обнимаются и восхваляют США за свержение Мадуро.

Сообщение было отмечено сообществом как неприемлемое, но только после того, как его перепостили 38 000 человек, а просмотрели 5,6 миллиона, оно даже попало в ленту Илона Маска, прежде чем пользователь его удалил. В примечании было добавлено следующее предупреждение:

«Это видео создано с помощью искусственного интеллекта и в настоящее время преподносится как правдивое утверждение, призванное ввести людей в заблуждение»

Платформы на основе искусственного интеллекта помогают распространять фейковые видеоролики о Венесуэле

Сотрудники BBC и AFP, занимающиеся проверкой фактов, trac, что оригинальное видео появилось в аккаунте TikTok под названием @curiousmindusa, который регулярно публикует видеоролики, сгенерированные искусственным интеллектом.

Хотя нам не удалось найти точный источник, обе редакции подтвердили, что это была самая ранняя версия. Видеоролик появился после крупной военной операции 3 января, когда американские войска нанесли авиаудары и совершили наземный рейд, в результате которого Мадуро был арестован.

Изображения, на которых он запечатлен под стражей, начали распространяться в интернете еще до того, как правительство опубликовало официальное заявление, и все эти первые снимки тоже были поддельными.

Агентство AFP также выявило еще больше вводящего в заблуждение контента. Один ролик, который выглядел как уличная вечеринка в Каракасе, оказался старым видео из Чили, поскольку его выдали за видео, где венесуэльцы празднуют на улицах.

Это не первый случай использования ИИ для искажения реальности во время освещения экстренных новостей, и уж defiне последний. Подобные схемы наблюдались во время российско-украинского и израильско-палестинского конфликтов. Но именно невероятная скорость и реалистичность фейков из Венесуэлы отличают их от предыдущих.

Такие платформы, как Sora и Midjourney, сделали невероятно простым создание фейковых видеороликов за считанные минуты, и люди продолжают на них попадаться.

Социальные платформы с трудом справляются с фейковым контентом

Создатели этих видеороликов часто пытаются продвигать определенные политические нарративы или просто сеять хаос в интернете. И это работает. В прошлом году в видеоролике, созданном с помощью ИИ, были показаны фальшивые женщины, плачущие из-за потери пособий SNAP во время приостановки работы правительства США. Этот ролик был показан телеканалом Fox News как настоящий, пока его не пришлось снять с эфира.

Всё это вызвало усиление требований к социальным платформам более чётко маркировать контент, созданный с помощью ИИ. Индия даже предложила закон, требующий маркировки контента, созданного ИИ, а Испания утвердила штрафы в размере 35 миллионов евро за всё, что не маркируется.

Некоторые сайты пытаются наверстать упущенное. TikTok и Meta заявляют, что разработали инструменты для обнаружения и пометки видео с использованием ИИ. CNBC обнаружил несколько фейковых роликов из Венесуэлы в TikTok, которые были помечены правильно. Но результаты неоднозначны.

X, с другой стороны, в основном полагается на свою систему заметок от сообщества. Критики говорят, что она работает недостаточно быстро. К тому моменту, когда появляется предупреждение об использовании ИИ, миллионы людей уже посмотрели и поделились контентом.

Даже руководители платформ бьют тревогу. Адам Моссери, управляющий Instagram и Threads, написал: «Все основные платформы будут хорошо справляться сdentконтента, созданного ИИ, но со временем они будут делать это хуже, поскольку ИИ будет лучше имитировать реальность»

Адам добавил: «Уже сейчас растет число людей, которые, как и я, считают, что будет практичнее идентифицировать подлинные медиафайлы, чем поддельные».