MrBeast разоблачил мошенничество с дипфейками: 10 000 iPhone 15 Pro в TikTok

Популярный ютубер и филантроп MrBeast недавно вступил в конфликт с TikTok, принадлежащим ByteDance Ltd., из-за распространения на своей платформе дипфейк-видео. В видео, созданном с помощью ИИ, рекламировалась масштабная раздача 10 000 iPhone 15 Pro по цене всего 2 доллара за штуку. Этотdent подчеркивает растущую обеспокоенность по поводу дипфейков, созданных с помощью ИИ, на платформах социальных сетей и их потенциальной способности обманывать пользователей. В этой статье мы подробно рассмотрим этот спор и его последствия для подлинности онлайн-контента.

Мошенничество с дипфейками

TikTok, популярная социальная сеть, запустила рекламу, демонстрирующую созданную с помощью ИИ дипфейк-версию MrBeast. В видеоролике самозванец утверждал, что организует «крупнейший в мире розыгрыш iPhone 15», где каждый iPhone будет стоить всего 2 доллара. Это дерзкое предложение, естественно,tracзначительное внимание, особенно учитывая репутацию MrBeast как организатора розыгрышей и конкурсов.

Ответ MrBeast

Обнаружив дипфейк-видео, MrBeast выразил свою обеспокоенность в социальных сетях. Он отметил, что «многие люди получают эту мошенническую рекламу с использованием дипфейков с моим изображением», и задался вопросом, достаточно ли хорошо социальные сети подготовлены к борьбе с распространением дипфейков, созданных с помощью искусственного интеллекта. Его публичное заявление присоединилось к хору знаменитостей, ставших жертвами дипфейков, распространяющихся в социальных сетях.

Разоблачение дипфейка

Хотя в рекламном ролике, созданном с помощью дипфейка, присутствовал официальный логотип MrBeast и синяя галочка, внимательные зрители заметили признаки манипуляций со стороны ИИ. Наблюдатели отметили искаженные голоса и неестественные движения рта, характерные для контента, созданного с помощью ИИ. Несмотря на это, видео все же привлекло trac, продемонстрировав эффективность подобных мошеннических схем, особенно среди менее разборчивых пользователей.

Ответ TikTok

В ответ на возникшую полемику представитель TikTok подтвердил, что мошенническая реклама была оперативно удалена через несколько часов после публикации, а связанный с ней аккаунт, ответственный за дипфейк, был заблокирован за нарушение правил. TikTok также предпринял шаги по борьбе с распространением контента, созданного с помощью ИИ, внедрив инструменты для маркировки такого контента и протестировав механизмыmatic маркировки.

Тенденция в использовании дипфейков с участием знаменитостей

MrBeast — не единственная знаменитость, ставшая жертвой дипфейк-имитаций. Недавно актёр Том Хэнкс опубликовал в Instagram заявление, осуждающее дипфейк-версию самого себя, рекламирующую dentстраховку. Он уточнил, что «не имеет к этому никакого отношения». Аналогично, дочь Робина Уильямса, Зельда, выразила своё недовольство воссозданием голоса её отца с помощью ИИ, назвав их «лично тревожными» и «ужасными монстрами в духе Франкенштейна»

Британский актер Стивен Фрай также стал жертвой злоупотребления искусственным интеллектом: его голос был использован без разрешения в контенте, связанном с книгами о Гарри Поттере. Этиdentподчеркивают растущую популярность дипфейков в эпоху передовых технологий искусственного интеллекта.

Проблема обнаружения дипфейков

В то время как такие технологические гиганты, как Google, работают над решениями, подобными SynthID, для обнаружения изображений, созданных с помощью ИИ, борьба с дипфейками в аудио- и видеоформате остается сложной задачей. Обнаружение манипуляций со стороны ИИ в режиме реального времени — это сложная задача, и потребуется время, прежде чем появятся комплексные решения. Тем временем пользователям настоятельно рекомендуется проявлять осторожность, руководствоваться здравым смыслом и проверять на достоверность информацию, которая кажется подозрительной.

Скандал с дипфейками от MrBeast служит ярким напоминанием об опасностях, которые представляют собой дипфейки, созданные искусственным интеллектом, в сфере социальных сетей. Он подчеркивает необходимость того, чтобы такие платформы, как TikTok, оставались бдительными в предотвращении распространения вводящего в заблуждение контента. Кроме того, он подчеркивает срочную необходимость технологических достижений для борьбы с распространением созданных с помощью ИИ подделок знаменитостей и общественных деятелей. До тех пор, пока не будут разработаны комплексные решения, пользователи сети должны оставаться бдительными и критически настроенными, чтобы не стать жертвами подобных мошеннических схем.