MrBeast разоблачает мошенничество с дипфейками: 10,000 iPhone 15 Pros на TikTok
- Скам с использованием дипфейков нацелен на знаменитостей в TikTok, вызывая опасения по поводу подлинности контента.
- Конфликт с участием MrBeast подчеркивает необходимость для социальных платформ бороться с обманом, созданным с помощью ИИ.
- Обнаружение дипфейков, созданных ИИ, в реальном времени остается технологической проблемой.
Популярный ютубер и филантроп MrBeast недавно выступил с критикой в адрес ByteDance Ltd.’s TikTok за то, что платформа позволила распространяться видео с дипфейком. В видео была представлена сгенерированная ИИ имитация MrBeast, объявляющего о масштабной раздаче 10 000 iPhone 15 Pros всего за 2 доллара каждый. Этот инцидент подчеркивает растущую обеспокоенность по поводу дипфейков на основе ИИ в социальных сетях и их потенциала для обмана пользователей. В этой статье мы подробно разбираем детали этого скандала и его последствия для подлинности онлайн-контента.
Мошенничество с дипфейками
TikTok, известная социальная сеть, запустила рекламу, демонстрирующую сгенерированную ИИ версию дипфейка MrBeast. В видео имитатор утверждал, что организует «крупнейшую в мире раздачу iPhone 15», где каждый iPhone стоит всего 2 доллара. Эта дерзкая oferta, естественно, привлекла значительное внимание, особенно учитывая репутацию MrBeast как организатора раздач и конкурсов.
Реакция MrBeast
Обнаружив видео с дипфейком, MrBeast обратился к социальным сетям, чтобы выразить свою обеспокоенность. Он отметил, что «Многие люди получают эту рекламную рассылку с дипфейком от меня», и задался вопросом, готовы ли социальные сети адекватно противостоять росту дипфейков на основе ИИ. Его публичное заявление добавило его голос к хору знаменитостей, ставших жертвами дипфейк-имитаций, циркулирующих в социальных сетях.
Раскрытие сути дипфейка
Хотя реклама с дипфейком содержала официальный логотип MrBeast и синюю галочку верификации, признаки манипуляции ИИ были заметны для внимательных зрителей. Наблюдатели отметили искаженные голоса и неестественные движения губ, характерные для контента, созданного ИИ. Несмотря на это, видео все же набрало популярность, демонстрируя эффективность таких мошеннических схем, особенно среди менее искушенных пользователей.
Реакция TikTok
В ответ на скандал представитель TikTok подтвердил, что мошенническая реклама была быстро удалена через несколько часов после публикации, а связанный с ней аккаунт, ответственный за дипфейк, был заблокирован за нарушение правил. TikTok также предпринял шаги по борьбе с распространением контента, созданного ИИ, внедрив инструменты для создателей контента, позволяющие маркировать такой контент, и тестируя механизмы автоматической маркировки.
Тренд на дипфейки знаменитостей
MrBeast — не единственная знаменитость, ставшая целью дипфейк-имитаций. Недавно актер Том Хэнкс выпустил заявление в Instagram, осуждающее дипфейк-версию себя, продвигающую стоматологический план. Он уточнил, что у него «нет к этому никакого отношения». Аналогичным образом, дочь Робина Уильямса, Зельда, выразила свое беспокойство по поводу воссоздания голоса ее отца с помощью ИИ, назвав их «личностно тревожащими» и «ужасающими монстрами Франкенштейна».
Британский актер Стивен Фрай также стал жертвой злоупотребления технологиями ИИ: его голос был использован без разрешения для контента, связанного с книгами о Гарри Поттере. Эти инциденты подчеркивают ускоряющиеся темпы появления дипфейков в эпоху передовых технологий ИИ.
Проблема обнаружения дипфейков
В то время как технологические гиганты, такие как Google, работают над решениями, такими как SynthID, для обнаружения изображений, созданных ИИ, борьба с дипфейками в аудио и видео остается сложной задачей. Обнаружение манипуляций ИИ в реальном времени — это formidable задача, и потребуется время, прежде чем появятся комплексные решения. Тем временем пользователям рекомендуется проявлять осторожность, использовать здравый смысл и проверять фактическую достоверность контента, который кажется подозрительным.
Скандал с дипфейком MrBeast служит резким напоминанием о рисках, которые представляют дипфейки на основе ИИ в сфере социальных сетей. Он подчеркивает необходимость для таких платформ, как TikTok, оставаться начеку, предотвращая распространение обманчивого контента. Кроме того, это подчеркивает срочность технологических достижений для борьбы с распространением дипфейк-имитаций знаменитостей и публичных фигур. До тех пор, пока не будут созданы комплексные решения, пользователи интернета должны оставаться бдительными и критичными, чтобы защититься от подобных мошеннических схем.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Джон Палмер
Джон Мурангири пришел в Cryptopolitan, обладая навыками анализа рынка. Джон (также известный как JP) окончил Найробийский университет по специальности «Массовая коммуникация и медиаисследования». Ранее он публиковал аналитические материалы о криптовалютном рынке на InsideBitcoins.com и Metacoingraph.
