Боты, использующие ИИ, затопляют социальные сети дезинформацией

Почти каждый месяц Интернет предлагает новую и креативную идею для схемы «быстрого обогащения», не требующей усилий. Многие используют инструменты ИИ для улучшения своей работы и получения лучших результатов. Местные новостные каналы создают своих ведущих, а Министерство иностранных дел строит цифровой источник. В отличие от перевода и проверки грамматики, которые являются типичными и ожидаемыми, ИИ становится неотъемлемой частью нашей жизни и все меньше ассоциируется с искусственным интеллектом.

Раскрытие фермы ботов на базе ИИ

Существует еще одна ниша: генерация полностью оригинального материала с нуля. Его создание требует всего двадцати минут или даже всего минуту. Вся платформа ИИ используется для создания видео (или обработки украденного видео), написания текстов и аудиодорожек, постановки всего этого, а также добавления описаний и хэштегов для публикации в социальной сети всего за несколько секунд.

Таким образом, социальные сети постепенно становятся просто мусорными баками для ИИ, и такие инструменты позволяют людям наслаждаться мыслью, что они создали промо-видео, которое может стать популярным и принести доход. Или они распространяют российские пропагандистские сообщения до тех пор, пока они не станут доминирующим голосом по этому вопросу.

Вы увидите, как ИИ способствует распространению фейковой информации на примере фермы ботов из 300 каналов, которые использовали ИИ для обработки и генерации видео из российских или белорусских YouTube-каналов. Вот Анастасия Кожевникова, местная девушка из Мариуполя, которая теперь известная российская ютуберша. Хотя у нее всего 190 000 подписчиков на ее YouTube-канале, она является хорошим примером того, как умное использование Интернета может дать голос человеку, подавленному в своей родной стране. У нее хорошая репутация распространительницы российских пропагандистских мифов о «России как Спасителе» и возрождении Мариуполя из руин.

Тем не менее, покидая ее профиль, вы поражаетесь отсутствию информации по обсуждаемой теме. Она исследует, кто она, и говорит о том, о чем обычно снимают влоги. Как зритель узнает, что в сообществе существуют другие подобные сети? Что если это ссылка на YouTube-канал суперпопулярной звезды социальных сетей? Карточки с изображением миссии организации вполне возможны. Возможно, даже более щедрые номера карточек. Напротив, наблюдается краткое отсутствие выразительности с призывом к подписке. В связи с этим каждый канал может быть специализированным. Однако я выяснил, что у многих таких каналов они уже есть.

Коварное распространение дезинформации с помощью ИИ

Аналогично, сложный поиск Google сгенерировал 298 сообщений об идентификации каналов TikTok с одинаковым описанием. Случается так, что в их жизнях есть сходства. Именно так они начали сканировать и выбирать одну кампанию в рамках русскоязычной фермы TikTok на базе ИИ. Единственное, что их отличает, – это предметная область, на которой они фокусируются. 

Независимо от того, ищете ли вы «российскую пропаганду» или «теории заговора об империи», ассортимент огромен. В то же время рецепты, советы для механиков, видео для автолюбителей, мультфильмы для детей, блогеры и т. д. рассказывают людям о кладбищах в России или находят сокровища в обломках местного металлолома. Их можно было бы отнести к категории «офлайн-звезд», поскольку именно эти картонные вырезки мы встречаем чаще всего. Стоит упомянуть, что медийная активность в России была ограничена с марта 2022 года и вплоть до недавнего времени. Например, TikTok, одна из самых популярных сетей, считался нелегальным.

Отсутствие информации об авторах на фермах обнаруженной станции вновь указывает на то, что здесь столкнулись с пиратством. К концу мая вы, вероятно, увидите цифры, превышающие 10 миллионов. Лайков и еще больше просмотров на канале уже существует в течение шести месяцев. Однако чем глубже вы погружаетесь в этот виртуальный фантастический мир, тем больше становится фальшивого и несуществующего контента. В этом случае Россия будет использовать его в своей информационной войне. Российские боты и бот-фермы обычно реплицируют и пережевывают популярные сообщения в социальных сетях, что делает их более легкими для обнаружения алгоритмами социальных сетей.

Использование функций ИИ для социальных платформ будет представлять большую проблему. Они будут демонстрировать название контрдвижения с лозунгом «летание в мертвом пространстве интернета», которое утверждает, что в настоящее время в интернете нет реальных людей. Теперь новые исследования показывают, что большая часть онлайн-трафика прошлого года, более 50%, была создана ботами.