Ботнет Fox8 раскрывает 1000 ИИ-ботов на X, создавая фейковые аккаунты, крадя селфи

В шокирующем открытии исследователи из Обсерватории социальных медиа Индианского университета обнаружили тревожную проблему с ботами на X (ранее известном как Twitter). Недавнее исследование, проведённое командой студентов и преподавателей, выявило сеть из более чем 1000 аккаунтов, управляемых искусственным интеллектом, которые генерируют машинный контент и крадут селфи для создания фейковых личностей. Это тревожное открытие вызвало опасения относительно масштабов дезинформации и потенциального вреда, который эти боты могут нанести платформе и её пользователям.

Ботнет Fox8 и его роль в создании площадки для дезинформации

Исследовательская команда во главе с учёными Кай-Ченгом Яном и Филиппо Менцнером выявила разветвлённую сеть фейковых аккаунтов на X, получившую название «Fox8». Эта сеть использует передовые языковые модели, включая ChatGPT, для генерации контента, продвигающего подозрительные сайты и распространяющего вредоносные нарративы. Помимо создания фейковых личностей, эти боты пытались заманить неосведомлённых людей в инвестиции в мошеннические криптовалюты. Ещё более тревожным является их предполагаемое участие в кражах из существующих криптокошельков, что свидетельствует об уровне сложности, способном нанести значительные финансовые потери.

Крипто-связи и распространение обмана

Ботнет Fox8 стратегически нацелен на хэштеги, связанные с криптовалютами, такие как #bitcoin, #crypto и #web3, чтобы повысить видимость своих постов. Эти посты часто взаимодействуют с аккаунтами, управляемыми людьми и фокусирующимися на крипто, такими как известный ForbesCrypto (@ForbesCrypto) и новостной сайт, ориентированный на блокчейн, Watcher Guru (@WatcherGuru). Взаимодействуя с легитимными аккаунтами, эти боты создают иллюзию аутентичности и надёжности, делая ещё труднее для пользователей различать подлинный контент и злонамеренные намерения.

За пределами крипто и многогранная угроза

Вредоносная деятельность ботнета Fox8 выходит за рамки криптовалют. Исследование Яна и Менцнера показало, что эти бот-аккаунты ответственны за искажение онлайн-разговоров и распространение дезинформации в различных контекстах, включая критические области, такие как выборы и кризисы в сфере общественного здравоохранения. Это усиление дезинформации представляет существенный риск для общественного дискурса и процессов принятия решений, что требует срочного внимания и контрмер.

Новый уровень правдоподобия

В отличие от легко обнаруживаемых ботнетов прошлого, сеть Fox8 использует более сложные тактики, чтобы выглядеть убедительно человеческими. Эти боты крадут изображения у реальных пользователей и взаимодействуют друг с другом, включая ретвиты и ответы. Кроме того, они поддерживают профили с описаниями, подписчиками и количеством твитов, что ещё больше усиливает их кажущуюся аутентичность. Такой уровень детализации в их профилях и взаимодействиях делает трудным для пользователей идентификацию их как мошеннических аккаунтов.

Революция ChatGPT и её тёмное использование

Исследование подчёркивает значительную роль передовых языковых моделей, таких как ChatGPT, в обеспечении работы ботнетов, подобных Fox8. Эти языковые модели экспоненциально улучшили возможности этих ботов, позволив им создавать контент, который всё труднее отличить от сгенерированного людьми. Доступность бесплатных API ИИ ускорила этот процесс, позволив злоумышленникам использовать эти инструменты для обмана неосведомлённых пользователей.

Эрозия методов обнаружения

Традиционно исследователи могли идентифицировать ботнеты на основе неестественного использования языка и неубедительного контента. Однако появление ChatGPT и подобных технологий подорвало эффективность традиционных методов обнаружения. Даже применение современных детекторов контента не позволило исследовательской команде с лёгкостью отличить контент, сгенерированный людьми, от контента, сгенерированного ИИ, в ботнете Fox8.

Срочные призывы к действию

Тревожные выводы этого исследования подчёркивают срочность решения проблемы растущей угрозы, исходящей от ботнетов на базе ИИ. Менцнер подчёркивает, что текущее отсутствие эффективных методов обнаружения контента, сгенерированного ИИ, требует выделения значительных ресурсов на разработку соответствующих контрмер и регулирования. Без таких вмешательств потенциал манипуляции, дезинформации и финансовой эксплуатации остаётся неограниченным.

Невидимая угроза и то, что скрывается под поверхностью

Хотя исследователи не раскрыли конкретные учётные записи, связанные с ботнетом Fox8, они обнаружили их существование благодаря твитам, которые эти аккаунты случайно публиковали сами. Это привело их к поиску фразы «as an AI language model» на X, где было выявлено более 12 000 твитов примерно от 9 000 уникальных аккаунтов. Хотя не все эти аккаунты подтверждены как боты на базе LLM, исследование оценивает, что значительная их часть занимается распространением контента, сгенерированного ИИ.

Исследование Индианского университета проливает свет на растущую угрозу в цифровом пространстве: ботнеты на базе ИИ, которые крадут личности, распространяют дезинформацию и манипулируют пользователями в злонамеренных целях. Исследование подчёркивает срочность поиска практических решений этих эволюционирующих угроз. По мере развития технологий борьба с обманом, сгенерированным ИИ, потребует инноваций, сотрудничества и бдительности для защиты целостности онлайн-пространств.