Распространение вредоносных чат-ботов с искусственным интеллектом: злоумышленники используют «хакерботов»

Волна ИИ захлестнула как тех, кто преследует благие намерения, так и тех, кто имеет более зловещие цели. Специалисты по безопасности бьют тревогу, указывая на то, что использование таких моделей, генерация вредоносного текста или «хакерские боты», стало широко распространено среди злоумышленников. Это достигло уровня готового сервиса в рамках подписных программ.

Киберпреступники используют инструменты искусственного интеллекта

С одной стороны, эксперты по кибербезопасности быстро осознали потенциал инструментов на основе ИИ для более эффективной защиты своих систем. С другой стороны, злоумышленники также проявили не меньшую заинтересованность в использовании этих технологий для того, чтобы воспользоваться уязвимостями в системе безопасности, оставленными атакуемыми ими системами. За последние несколько лет наблюдается экспоненциальный рост числа приложений ИИ, используемых злоумышленниками, что привлекло внимание групп безопасности к поиску эффективного подхода к борьбе с угрозами, связанными с ИИ.

С другой стороны, британские специалисты по кибербезопасности также указали на ИИ как на новый, неизведанный риск, связанный с постоянно меняющейся природой этой области. NCSC прогнозирует, что первый квартал 2024 года станет самым масштабным и превзойдёт показатели 2022 и 2023 годов. Хитрые преступники также использовали языковые модели для социальной инженерии, которая предполагала размещение знаменитостей в видео- или аудиосреде с помощью фишинговых схем или устройств распознавания голоса. Васкут Джаккал, вице-президентdentdentdent dentdentdentdent dentdentличности.

Некоторые эксперты пришли к выводу, что чат-боты используют уникальную фразу для активной разработки вредоносного ПО. Действительно, общедоступные сервисы, такие как ChatGPT и Gemini, внедрили средства защиты, предотвращающие их неправомерное использование в злонамеренных целях. Однако хакерам удалось обойти многие из этих средств защиты с помощью сложных и оперативных методов разработки.

Сервис хакерских ботов: растущая тенденция в киберпреступности

Согласно недавним исследованиям, общедоступные языковые модели, как правило, не способны использовать уязвимости безопасности программного обеспечения. Однако только GPT-4 от OpenAI продемонстрировала многообещающие возможности, поскольку она смогла создавать исполняемые файлы для известных уязвимостей. Вышеупомянутые ограничения, по всей видимости, способствовали созданию прототипов вредоносных чат-ботов, предназначенных для оказания помощи киберпреступникам в осуществлении их противоправной деятельности. 

Их рекламируют на форумах и торговых площадках даркнета, предлагая возможность нанять и эксплуатировать злоумышленников, подпитывая модель «хакербот как услуга». Одна из недавних статей в блоге команды Trustwave SpiderLabs, опубликованная в августе 2023 года, иллюстрирует возросший объем вредоносных языковых моделей, размещенных на многочисленных скрытых веб-форумах с целью получения прибыли.

В июне 2021 года Trustwave опубликовала модель WormGPT, одну из известных вредоносных языковых моделей этих хакеров. Такой подход может применяться на оборудовании, где боты внедряют кибератаки через хакерские структуры, размещенные в даркнете. Модель FraudGPT, созданная в июле 2023 года, была впервые обнаружена исследователями угроз из Netenrich, прежде чем попасть в Telegram.

Эти инструменты позволяют злоумышленникам создавать объекты, используемые в атаках с применением методов социальной инженерии, таких как фишинговые электронные письма, дипфейки и клонирование голоса. Однако их создатели утверждают, что их реальная ценность заключается в использовании уязвимостей. Они позволяют хакерам внедрять код, описывающий конкретные уязвимости, в эти вредоносные модели, что теоретически может создать несколько прототипов эксплойтов (PoC), которые злоумышленник сможет проверить.

Эти продукты продаются на подпольных рынках даркнета, где с хакеров взимается ежемесячная лицензионная плата за использование хакбота, точно так же, как программы-вымогатели распространяются по модели «программа-вымогатель как услуга» (RAAS), которая напрямую связана с комплексом программ-вымогателей, с которым сегодня сталкиваются многие компании.

Хотя WormGPT стала первой крупномасштабной вредоносной языковой моделью, вскоре за ней последовали другие вредоносные и неэтичные языковые модели, такие как BlackHatGPT, XXXGPT и WolfGPT, сформировавшие новый сегмент рынка киберпреступлений.

Эффективность хакерботов: ажиотаж или реальная угроза?

В отличие от исследования Trustwave, целью которого было тестирование эффективности рекомендуемых инструментов путем сравнения их результатов с результатами, полученными от легитимных чат-ботов, результаты показали, что ChatGPT можно эффективно использовать для создания вредоносного ПО на Python при наличии соответствующих подсказок. Для этого перед развертыванием необходимо было отправить сообщение, утверждающее, что код является «белым» (white hat), а также внести дополнительные изменения в выходной код.

ChatGPT может передавать реальные текстовые сообщения для фишинговых атак, но команда должна быть очень специфичной для этой цели. ChatGPT будет использовать это только в том случае, если пользователь запросит что-то некорректное. Поэтому эти чат-боты можно рассматривать как более простой способ для киберпреступников или ИИ атаковать пользователей, вместо того чтобы тратить время на создание страницы или вредоносного ПО.

Хотя эта отрасль относительно новая, и угрозы все еще находятся в стадии развития, компаниям необходимо в полной мере осознавать текущий уровень своей защиты. Контент и культурные особенности, которыми переполнены системы искусственного интеллекта, могут быть использованы для создания информационного барьера, который можно преодолеть только путем созданияtronнадежных программ безопасности ИИ и инструментов управленияdent.

Легитимность решений для растущей проблемы до сих пор обсуждается. Тем не менее, недавние вспышки программ-вымогателей показали, что киберпреступники могут сравняться, а то и превзойти, темпы разработки программного обеспечения.