Появилась новая мошенническая схема, связанная с искусственным интеллектом, в которой тысячи созданных с помощью ИИ блогеров заполонили социальные сети, такие как Instagram, используя украденные изображения реальных людей.
Мошенническая схема включает в себя кражу видео у реальных моделей и создателей контента для взрослых, присвоение им лиц, сгенерированных искусственным интеллектом, и монетизацию их тел с помощью ссылок на сайты знакомств, например, Patreon, конкурсы на OnlyFans и различные приложения с использованием ИИ.
Созданные с помощью ИИ инфлюенсеры соревнуются с людьми в Instagram
В апреле издание 404 Media впервые сообщило об этой практике, когда она только появилась. Сейчас она превратилась в популярный тренд, из-за чего многие предполагают, что управляемая Meta социальная сеть либо не в состоянии, либо не желает остановить эту тенденцию на своей платформе.
Это происходит на фоне заявлений создателей контента в Instagram о том, что теперь они конкурируют с контентом, созданным искусственным интеллектом, что негативно сказывается на их конкурентоспособности.
Благодаря некоторым готовым инструментам и приложениям на основе ИИ, размещенным в магазинах приложений Apple App Store и Google Play, влиятельные лица, использующие ИИ, теперь могут легко создавать и монетизировать свои аккаунты. По данным Wired, они проанализировали более 1000 аккаунтов в Instagram, созданных с помощью ИИ, и каналы Discord, где люди, создающие этот контент, делятся советами, обсуждают стратегии и несколько руководств, объясняющих, как зарабатывать деньги с помощью «продвижения через ИИ».
Издание Wired выяснило, что проблема, которая раньше казалась незначительной в Instagram, превратилась в масштабную проблему, соответствующую ряду прогнозов относительно будущего ландшафта социальных сетей, где контент, созданный искусственным интеллектом, затмит контент, созданный людьми.
Создатели контента для взрослых, продвигающие свои работы в Instagram, теперь опасаются прямой конкуренции с этими поддельными аккаунтами, созданными с помощью искусственного интеллекта, многие из которых используют фотографии и видео, украденные у создателей контента для взрослых и моделей из Instagram.
Элейна Сент-Джеймс , создательница контента для взрослых, заявила, что, хотя на это могли повлиять и другие изменения в алгоритме Instagram, после взрыва количества созданных с помощью ИИ аккаунтов инфлюенсеров в Instagram ее «охват резко упал» — с типичного 1 миллиона до 5 миллионов просмотров в месяц. За последние 10 месяцев она не набирала более миллиона просмотров, а иногда ее контент опускался ниже 500 000.
«Вероятно, это одна из причин снижения количества просмотров. Дело в том, что я конкурирую с чем-то неестественным». Сент-Джеймс.
Алексиос Манцарлис, директор инициативы по безопасности, доверию и защите в Cornell Tech и бывший руководитель отдела анализа доверия и безопасности в Google, составил список из примерно 900 учетных записей в исследовании 404 Media.
Манцарлис заявил, что в этом нет ничего совершенно нового или удивительного, поскольку это лишь подтверждение ранее сделанных прогнозов относительно технологий искусственного интеллекта и их внедрения на платформах социальных сетей.
«Это показалось мне возможным признаком того, как будут выглядеть социальные сети через пять лет», — сказал Манцарлис.
«Потому что это может коснуться и других сегментов интернета, а не только нишиtracлюдей в Instagram. Вероятно, это признак того, что ситуация будет довольно плохой»
Манцарлис.
Из более чем 1000 созданных с помощью ИИ аккаунтов инфлюенсеров в Instagram, по меньшей мере 100 содержали контент, созданный с использованием технологии дипфейк. В этих аккаунтах брались существующие видеоролики, как правило, с участием моделей и артистов индустрии развлечений для взрослых, а их лица заменялись на сгенерированные ИИ, чтобы придать видео свежий вид.
Видеоролики будут выглядеть как новый, оригинальный контент, соответствующий другим изображениям и видео, созданным с помощью ИИ и опубликованным инфлюенсером, также созданным с помощью ИИ.
Instagram примет меры в случае получения жалоб
Instagram заявил, что будет принимать меры в отношении аккаунтов только в том случае, если на них пожалуется законный владелец или лицо, уполномоченное подавать жалобы от его имени. Однако многие блогеры и инфлюенсеры утверждают, что предоставленный канал не работает, поскольку у них слишком много аккаунтов, созданных поддельными лицами, на которые нужно подписаться.
Сент-Джеймс добавил, что тот факт, что многие из этих созданных с помощью ИИ аккаунтов влиятельных лиц управляются им лично, лишь усугубляет ситуацию.
«Мы, женщины, зарабатываем меньше денег. Во многих отношениях мы находимся в невыгодном положении. Единственное преимущество, которое у нас есть, — это работа в качестве инфлюенсеров и моделей, это просто дополнительный фактор», — сказала Сент-Джеймс.
«Меня немного возмущает, что это мужчина зарабатывает деньги, притворяясь женщиной», — добавила она.
Компания Apple, которой до сих пор не удалось решить проблему «двойного использования» приложений для замены лиц, которые можно использовать безобидно, но которые часто используются для создания контента без согласия пользователя, удалила приложение из App Store после того, как ее спросили об этой проблеме.
