ИИ-инфлюенсеры затопляют Instagram и другие платформы украденными личностями

Появился новый вид мошенничества, связанного с ИИ, с тысячами ИИ-инфлюенсеров, которые затопили социальные сайты, такие как Instagram, используя украденные изображения реальных людей.

Мошенничество включает кражу видео у реальных моделей и создателей контента для взрослых, присвоение им лиц, созданных ИИ, и монетизацию их тел с помощью ссылок на сайты знакомств, такие как Patreon, OnlyFans, конкурсы и различные ИИ-приложения.

ИИ-инфлюенсеры конкурируют с людьми на Instagram

В апреле 404 Media впервые сообщила об этой практике, когда она впервые появилась. Теперь эта практика превратилась в популярный тренд, из-за которого многие предположили, что управляемая Meta социальная сеть либо не способна, либо не хочет останавливать эту тенденцию на своей платформе.

Это происходит на фоне того, как создатели человеческого контента на Instagram говорят, что теперь конкурируют с контентом ИИ, что влияет на их жизнеспособность.

С помощью некоторых готовых ИИ-инструментов и приложений, размещенных в Apple App Store и Google Play Store, ИИ-инфлюенсеры теперь могут легко создавать и монетизировать свои аккаунты. Согласно Wired, они рассмотрели более 1000 аккаунтов Instagram, созданных ИИ, и каналы Discord, где люди, создающие этот контент, делятся советами, обсуждают стратегию и несколько руководств, объясняющих, как зарабатывать деньги через «ИИ-проституцию».

Wired выяснил, что проблема, которая раньше была незначительной на Instagram, превратилась в огромную практику, соответствующую нескольким прогнозам о будущем ландшафте социальных сетей, где контент, созданный ИИ, превосходит человеческий.

Создатели контента для взрослых, которые продвигают свою работу на Instagram, теперь обеспокоены прямой конкуренцией с этими ИИ-копиями, многие из которых используют фотографии и видео, украденные у создателей контента для взрослых и моделей Instagram.

Элейна Стеймс, создательница контента для взрослых, сказала, что, хотя могут быть и другие изменения в алгоритме Instagram, которые могли способствовать этому, с взрывным ростом аккаунтов инфлюенсеров, созданных ИИ, на Instagram ее «охват значительно упал» с типичных 1–5 миллионов просмотров в месяц. Она не достигла миллиона просмотров за последние 10 месяцев, а иногда просмотров бывает менее 500 000.

«Это, вероятно, одна из причин, по которой мои просмотры снижаются. Это потому, что я конкурирую с чем-то неестественным», — Стеймс.

Алексис Мантарлис, директор инициативы по безопасности, доверию и безопасности в Cornell Tech и бывший главный специалист по интеллектуальным данным в области доверия и безопасности в Google, составил список из примерно 900 аккаунтов в исследовании 404 Media.

Признак того, как скоро будут выглядеть социальные сети

Мантарлис сказал, что это не совсем новое или удивительное явление, так как это просто выполняет прогнозы, сделанные ранее относительно технологии ИИ и ее внедрения на платформах социальных сетей.

«Это казалось возможным признаком того, как социальные сети будут выглядеть через пять лет», — сказал Мантарлис.

«Потому что это может прийти в другие части Интернета, не только в нишу привлекательных людей на Instagram. Это, вероятно, признак того, что все будет довольно плохо».

Мантарлис.

Из более чем 1000 аккаунтов ИИ-инфлюенсеров в Instagram по крайней мере 100 содержали контент deepfake, который брал существующие видео, обычно от моделей и исполнителей развлекательного контента для взрослых, и заменял их лица на созданные ИИ, чтобы придать видео свежий вид.

Видео будут выглядеть как новый, оригинальный контент, соответствующий другим изображениям и видео, созданным ИИ, которыми делится ИИ-инфлюенсер.

Instagram предпримет действия при получении жалоб

Instagram заявил, что будет принимать меры против аккаунтов только в том случае, если они будут сообщены правильным владельцем или кем-то, уполномоченным сообщать от их имени. Однако многие человеческие инфлюенсеры говорят, что предоставленный канал не работает, так как у них слишком много аккаунтов имитаторов для отслеживания.

Стеймс добавила, что тот факт, что многие из этих аккаунтов ИИ-инфлюенсеров управляются мной, добавляет оскорбления к ране.

«Мы, женщины в мире, зарабатываем меньше денег. Мы находимся в невыгодном положении во многих отношениях. Одна из областей, где у нас есть преимущество, — это инфлюенсеры и моделинг, так что это просто дополнительный слой», — сказала Стеймс.

«Это немного возмущает меня, что мужчина зарабатывает деньги, притворяясь женщиной», — добавила она.

Apple, которая до сих пор не смогла решить проблему «двойного назначения» приложений для замены лиц, которые можно использовать невинно, но часто используют для создания контента без согласия, удалила их из App Store после того, как ее спросили об этой проблеме.