Восстание вредоносных ИИ-чатботов: злоумышленники принимают «Хакботов»

Волна популярности ИИ охватила как тех, кто имеет благие намерения, так и тех, чьи намерения могут быть более зловещими. Специалисты по безопасности бьют тревогу, указывая на то, что использование таких моделей для генерации вредоносного текста или «хакботов» теперь стало популярным среди злоумышленников. Это достигло уровня готового решения в сервисах по подписке.

Киберпреступники используют инструменты ИИ

С одной стороны, эксперты по кибербезопасности быстро осознали потенциал инструментов на базе ИИ для лучшей защиты своих систем. Злоумышленники также проявили равное желание использовать эти технологии для эксплуатации пробелов в безопасности, оставленных теми, на кого они нападают. За последние несколько лет наблюдался экспоненциальный рост числа приложений ИИ, используемых злобными акторами, что привлекло внимание команд безопасности к достаточному подходу к устранению угроз, связанных с ИИ.

С другой стороны, британские специалисты по кибербезопасности также указали на ИИ как на новый растущий риск, влекущий за собой неизведанные воды и его постоянно меняющуюся природу. NCSC прогнозирует, что первый квартал 2024 года станет самым большим и успешно побьёт рекорды 2022 и 2023 годов. Умные преступники также использовали языковые модели для социальной инженерии, что требовало размещения знаменитостей в видео или аудио формате с использованием схем фишинга или устройств распознавания голоса. Васкут Джаккал, вице-президент по безопасности корпорации Microsoft, присутствовал на конференции RSA 2024. Проблема заключается не в ухудшении этих инструментов, а в их всё более широкой доступности для взлома паролей, что связано десятикратным ростом атак, связанных с идентификацией.

Некоторые эксперты далее пришли к выводу, что чат-боты используют уникальную фразу для активной разработки вредоносного ПО. Действительно, общедоступные сервисы, такие как ChatGPT и Gemini, внедрили меры предосторожности для предотвращения их misuse для злонамеренных целей. Однако хакеры обошли многие защиты с помощью сложных техник инженерии подсказок.

Хакбот как услуга: растущий тренд в киберпреступности

Согласно недавним исследованиям, общедоступные языковые модели обычно не способны эксплуатировать уязвимости безопасности программного обеспечения. Однако только GPT-4 от OpenAI показал многообещающие функции, так как он мог создавать исполняемые файлы для известных уязвимостей. Вышеуказанные ограничения, вероятно, способствовали созданию прототипов вредоносных чат-ботов, предназначенных для помощи преступникам в совершении их злонамеренных действий. 

Они рекламируются на форумах и рынках даркнета, которые предлагают силу нанимать и эксплуатировать атакующих, подпитывая модель хакбот-как-услуга. Один из недавних постов в блоге, опубликованных командой Trustwave SpiderLabs в августе 2023 года, иллюстрирует возросший объём вредоносных языковых моделей, размещённых на нескольких скрытых веб-форумах ради прибыли.

Trustwave опубликовала модель WormGPT в июне 2021 года, одну из известных злонамеренных языковых моделей хакеров. Этот подход может происходить в оборудовании, где боты внедряют кибератаки через структуры взлома, размещённые в даркнете. Сгенерированная в июле 2023 года, FraudGPT была впервые обнаружена исследователями угроз в Netenrich, прежде чем достигла Telegram.

Эти инструменты позволяют злоумышленникам создавать активы, используемые в атаках социальной инженерии, таких как фишинговые письма, дипфейки и клонирование голоса. Однако их создатели утверждают, что их реальная ценность заключается в эксплуатации уязвимостей. Они позволяют хакерам подавать код о конкретных уязвимостях в эти вредоносные модели, что теоретически может привести к созданию нескольких концептуальных доказательств (PoC) эксплойтов для попытки атакующего.

Эти продукты продаются на скрытых рынках даркнета, где хакеры платят ежемесячную лицензионную плату за использование хакбота, точно так же, как вымогатели доставляются в модели ransomware-as-a-service (RaaS), которая напрямую связана с комплексом вымогателей, с которым сталкиваются многие компании сегодня.

В то время как WormGPT является первой вредоносной языковой моделью крупного масштаба, другие вредоносные и неэтичные языковые модели, такие как BlackHatGPT, XXXGPT и WolfGPT, вскоре последовали за ней, образовав новый сегмент рынка киберчерного рынка.

Эффективность Хакботов: Хайп или реальная угроза?

В отличие от исследования, проведённого Trustwave, которое было направлено на тестирование эффективности рекомендуемых инструментов путём сравнения их выводов рядом с теми, что генерируются легитимными чат-ботами, результаты показали, что ChatGPT может быть эффективно использован для создания некоторого вредоносного ПО на Python при правильных подсказках. Для этого сообщение должно было быть отправлено с утверждением, что код является «белым шляпным» перед развертыванием, и вывод кода также требовал дополнительных модификаций.

ChatGPT может быть способен проходить реальные текстовые сообщения для фишинговых атак, но инструктирующая команда должна быть очень специфичной для этого эффекта. ChatGPT будет основываться на этом только тогда, когда пользователи просят что-то неправильное. Из-за этого факта эти чат-боты можно рассматривать как более простой метод для киберпреступников или ИИ атаковать чаттеров вместо того, чтобы утомительно создавать страницу или вредоносное ПО.

Хотя эта отрасль новая, а угрозы всё ещё находятся в процессе изменения, компании должны быть по-настоящему осведомлены о своих текущих уровнях защиты. Контент и культурные характеристики, с которыми переполнены системы ИИ, могут быть использованы для создания разрыва в дезинформации, который можно преодолеть только путём создания более сильных программ безопасности ИИ и инструментов управления идентификацией.

Легитимность решений растущей проблемы всё ещё обсуждается. Тем не менее, недавние штаммы вымогателей показали, что киберпреступники могут соответствовать, если не превосходить, скорость разработки программных обеспечений.