Лидеры технологий внедряют генеративный ИИ для киберзащиты: отчет PwC

По мере эволюции ландшафта кибербезопасности отчет PwC показывает, что 70% технологических и бизнес-лидеров планируют внедрить генеративный ИИ для киберзащиты в течение следующих 12 месяцев. Этот сдвиг происходит в ответ на растущую сложность киберугроз, обусловленную способностью генеративного ИИ создавать убедительные деловые письма в больших масштабах.

Поднятие тревоги по вопросам кибербезопасности

Цифровая сфера постоянно развивается, так же как и тактика кибератакующих. Традиционные системы кибербезопасности сталкиваются с растущими проблемами, главным образом из-за растущих возможностей генеративного ИИ. Согласно отчету PwC «Цифровое доверие 2024», 70% технологических и бизнес-лидеров ожидают использования генеративного ИИ в качестве ключевого компонента своей стратегии киберзащиты.

Это развитие направлено на смягчение растущего беспокойства по поводу традиционных методов кибербезопасности, поскольку способность генеративного ИИ генерировать сложные деловые письма в больших масштабах усилила опасность киберугроз. Преобладающее мнение среди экспертов отрасли указывает на то, что 52% ожидают, что генеративный ИИ станет главной угрозой катастрофических кибератак в течение следующего года.

Двойственная природа генеративного ИИ

Хотя генеративный ИИ обещает усилить киберзащиту, он также представляет собой formidable инструмент в арсенале кибератакующих. Злоумышленники могут использовать возможности этой технологии для создания привлекательных писем и реалистичного контента deepfake, включая видео, аудиозаписи и изображения, чтобы нацеливаться на неосведомленных лиц через фишинговые схемы.

Отчет о разведке угроз в реальном времени от SlashNext подчеркивает, что киберпреступники являются одними из самых частых пользователей чат-ботов на основе больших языковых моделей (LLM). Эти злоумышленники используют чат-боты LLM для создания атак компрометации бизнес-электронной почты (BEC) и выполнения тщательно спланированных фишинговых кампаний. С момента запуска ChatGPT от OpenAI в конце 2022 года количество вредоносных фишинговых писем увеличилось на удивительные 1265%.

Кроме того, адаптивность генеративного ИИ позволяет злоумышленникам легко модифицировать устоявшиеся коды атак, делая их достаточно отличными, чтобы избежать обнаружения. Распространенность генеративного ИИ стала центральной темой на темном вебе, с упоминаниями, proliferating на протяжении текущего года.

Эволюционирующие угрозы и самоэволюционирующее вредоносное ПО

Одним из самых тревожных аспектов генеративного ИИ в кибератаках является создание штаммов вредоносного ПО, которые самоэволюционируют. Эти штаммы генерируют вариации, адаптированные для атаки на конкретные цели, используя уникальные техники, полезную нагрузку и полиморфный код. Эта адаптивность эффективно обходит обнаружение существующими мерами безопасности. В этой высококонкурентной сфере кибербезопасности только самые гибкие и адаптивные операции сохранят преимущество перед этими эволюционирующими угрозами.

Укрепление киберзащиты

Для укрепления защиты от растущих угроз, исходящих от кибератак на базе генеративного ИИ, эксперты отрасли подчеркивают следующие стратегии:

1. Обеспечение безопасности всего конвейера ИИ

Обеспечение безопасности и шифрование данных, используемых при обучении и тонкой настройке моделей ИИ, имеет решающее значение. Непрерывное сканирование уязвимостей, вредоносного ПО и коррупции во время разработки модели определяется как критический шаг в укреплении защиты от потенциальных нарушений.

2. Совместные обсуждения на уровне совета директоров

Лидеры из областей кибербезопасности, технологий, данных и операций должны объединиться для обсуждений на уровне совета директоров. Эти обсуждения должны фокусироваться на эволюционирующих рисках, в частности на том, как генеративный ИИ может быть использован для раскрытия конфиденциальных данных и получения несанкционированного доступа к системам.

3. Инновационное обнаружение и защита

Хотя существующие средства безопасности могут быть расширены для защиты инфраструктуры и данных, поддерживающих системы ИИ, жизненно важно понимать необходимость инновационных методов, специально разработанных для обнаружения и остановки атак враждебного ИИ. Проактивные меры необходимы для противодействия растущему потоку киберугроз, исходящих от генеративного ИИ.

По мере того как генеративный ИИ становится как активом защитников, так и мощным оружием в руках кибератакующих, организациям необходимо найти тонкий баланс. Принятие этой технологии для этичного и ответственного использования при одновременном укреплении мер кибербезопасности является императивом. Осведомленность, обеспечение безопасности конвейера ИИ и инвестиции в передовые средства защиты — ключи к успешному навигации в эволюционирующем ландшафте кибербезопасности. В цифровом мире, отмеченном постоянными изменениями, эти стратегии будут необходимы для защиты конфиденциальных данных и поддержания доверия в цифровой сфере.