Исследование IBM предупреждает о потенциале ИИ в киберпреступности

В недавнем исследовании, проведенном командой X-Force по безопасности и разведке IBM, emerging роль искусственного интеллекта (ИИ) в киберпреступности оказалась под пристальным вниманием. Исследование подчеркивает растущую обеспокоенность тем, что хакеры вскоре могут использовать инструменты ИИ, такие как ChatGPT, для усиления своих злонамеренных кампаний, значительно повышая сложность кибератак.

Эксперимент команды X-Force противопоставил фишинговые письма, написанные человеком, тем, которые были сгенерированы ChatGPT. Целью было измерение показателей кликабельности (CTR) этих писем, как самих сообщений, так и содержащихся в них вредоносных ссылок. Удивительно, но контент, написанный человеком, одержал победу, но с минимальным отрывом. Этот результат предполагает, что доминирование ИИ в правдоподобии и аутентичности может быть лишь вопросом времени, создавая новую задачу для экспертов по кибербезопасности.

Хотя ИИ демонстрирует впечатляющие возможности, исследование показало, что люди обладают явным преимуществом в таких областях, как эмоциональный интеллект, персонализация и понимание психологии потенциальных жертв. Согласно исследователям, «Люди понимают эмоции таким образом, о котором ИИ может только мечтать». Фишинговые письма, созданные людьми, могут выстраивать нарративы, вызывающие эмоциональный отклик и кажущиеся более реалистичными, что увеличивает вероятность того, что получатели кликнут по вредоносным ссылкам.

Человеческие злоумышленники преуспевают в персонализации, ссылаясь на легитимные организации и предлагая ощутимые преимущества работникам, что делает их письма более привлекательными для получателей. Кроме того, люди искусно избегают подозрений, используя краткие темы писем, в отличие от фишинговых писем, сгенерированных ИИ, которые, как правило, используют длинные темы, способные вызвать тревогу еще до открытия письма.

Исследование команды X-Force подчеркивает присущие ИИ сильные и слабые стороны по сравнению с человеческими хакерами. Хотя ИИ может быстро генерировать фишинговый контент, он уступает в эмоциональном воздействии, персонализации и способности избегать подозрений.

Эффективность ИИ и возникающие угрозы

Одним из заметных выводов исследования является эффективность ИИ в генерации фишингового контента. Команда X-Force продемонстрировала, что они могут использовать генеративную модель ИИ для составления убедительного фишингового письма всего за пять минут на основе пяти запросов. Напротив, ручное создание такого письма потребовало бы примерно 16 часов человеческих усилий. Эта эффективность предполагает, что ИИ имеет потенциал значительно сократить время и усилия, необходимые киберпреступникам для запуска крупномасштабных фишинговых кампаний.

Исследование также выявило наличие генеративных моделей ИИ, таких как WormGPT, на различных форумах, где они рекламируются для продажи с функциями фишинга. Это свидетельствует о том, что киберпреступники активно изучают потенциал использования ИИ в фишинговых кампаниях. Хотя текущие кампании еще не широко внедрили генеративный ИИ, растет обеспокоенность тем, что неограниченные или частично ограниченные большие языковые модели (LLMs) могут предоставить злоумышленникам более эффективные инструменты для создания сложных фишинговых писем в будущем.

Последствия роли ИИ в киберпреступности носят далеко идущий характер и создают серьезные вызовы для экспертов по кибербезопасности. По мере дальнейшего развития ИИ киберпреступники могут использовать его возможности для создания более убедительных и сложных фишинговых атак, потенциально повышая успешность своих кампаний.

Необходимость постоянной адаптации в области кибербезопасности

Этот меняющийся ландшафт угроз подчеркивает необходимость непрерывной адаптации и инноваций в стратегиях кибербезопасности. Организациям и специалистам по безопасности необходимо оставаться начеку и разрабатывать новые методы и инструменты для эффективного обнаружения и смягчения киберугроз, управляемых ИИ. Подчеркивание осведомленности и обучения сотрудников для распознавания попыток фишинга, независимо от их источника, остается ключевым компонентом защиты кибербезопасности.

Заключение

Исследование команды X-Force по безопасности и разведке IBM проливает свет на эволюционирующую угрозу, создаваемую интеграцией инструментов генеративного ИИ в деятельность киберпреступников. Хотя люди все еще сохраняют преимущество в плане эмоционального интеллекта, персонализации и способности избегать подозрений в фишинговых кампаниях, эффективность ИИ в генерации вредоносного контента вызывает обеспокоенность.

По мере того как ИИ продолжает развиваться и становиться более доступным для злоумышленников, организациям и специалистам по кибербезопасности необходимо проактивно адаптировать свою защиту для противодействия этим новым угрозам. Борьба с кибератаками на базе ИИ требует многогранного подхода, включающего передовые механизмы обнаружения, обучение сотрудников и постоянные инновации в области кибербезопасности. В этом меняющемся ландшафте оставаться на шаг впереди киберпреступников является императивом для защиты цифровых активов и предотвращения потенциальных нарушений безопасности.