Генеративный ИИ в кибербезопасности: обоюдоострый меч

В кибербезопасности внедрение генеративного искусственного интеллекта (ИИ) стало ключевым инструментом для специалистов в их постоянной борьбе с киберугрозами. Хотя эта инновационная технология предлагает заметные преимущества, она также создает новые вызовы, поскольку злоумышленники все чаще используют ее мощь для усиления атак.

Роб Джойс, директор по кибербезопасности в Агентстве национальной безопасности (NSA), недавно подчеркнул значительные преимущества, которые генеративный ИИ приносит в выявление и противодействие злонамеренной деятельности. Однако он также признал растущие опасения, связанные с его misuse (злоупотреблением) со стороны киберпреступников.

Сила добра: укрепление кибербезопасности

На мероприятии, состоявшемся в Университете Фордхэма в Нью-Йорке, Роб Джойс с энтузиазмом говорил о положительном влиянии генеративного ИИ на усилия по укреплению кибербезопасности. Он заявил, что генеративный ИИ «делает нас более эффективными в обнаружении злонамеренной деятельности». Эта технология предоставляет специалистам по безопасности инновационные инструменты и методологии для более эффективного выявления и смягчения киберугроз.

Одним из ключевых преимуществ генеративного ИИ в кибербезопасности является его способность бороться с злоумышленниками, которые скрываются в сетях, маскируясь под безопасные учетные записи через эксплуатацию уязвимостей. Эти замаскированные учетные записи демонстрируют аномальные модели поведения, которые сложно выявить вручную. Генеративный ИИ вместе с большими языковыми моделями (LLM) помогает командам кибербезопасности агрегировать и анализировать эту подозрительную активность, тем самым быстрее выявляя злонамеренные намерения.

Растущая проблема: злоупотребление со стороны киберпреступников

Хотя генеративный ИИ обещает значительное улучшение кибербезопасности, он также вызвал тревогу из-за его использования киберпреступниками. За последний год злоумышленники все чаще использовали инструменты генеративного ИИ для усиления мошеннической деятельности и скама. Эти передовые технологии позволяют им запускать высокоперсонализированные и мощные атаки социальной инженерии.

Mandiant, известная фирма в области кибербезопасности, в прошлом году выпустила предупреждение, подчеркнув, что генеративный ИИ может дать злоумышленникам возможность развернуть новую волну атак социальной инженерии беспрецедентной сложности. 

Эти фишинговые атаки, поддерживаемые ИИ, могут быть тонко настроены для обмана даже самых бдительных пользователей, представляя существенную угрозу для частных лиц и организаций. Эти опасения находили отклик у различных экспертов по безопасности на протяжении 2023 года.

Кроме того, исследование, проведенное компанией Darktrace, вызвало опасения по поводу фишинговых атак на базе ИИ. Существует опасение, что хакеры смогут постоянно использовать генеративный ИИ для совершенствования своих методов, что сделает все более сложной для пользователей задачу различения легитимной коммуникации и злонамеренных намерений.

Обоюдоострый меч: взвешивание воздействия

Роб Джойс признал, что опасения по поводу злоупотребления генеративным ИИ в киберпреступлении являются обоснованными. Однако он также подчеркнул значительный прогресс, достигнутый органами национальной безопасности в эффективном использовании этих инструментов. Он отметил, что специалисты по кибербезопасности используют генеративный ИИ для борьбы с угрозами и защиты критически важных активов так же, как и злоумышленники эксплуатируют его в своих злонамеренных целях.

Джойс предостерегал от восприятия генеративного ИИ как панацеи от всех проблем кибербезопасности, заявив, что это «не супер-инструмент, который может сделать некомпетентного человека способным». Тем не менее, он подчеркнул, что он усиливает возможности тех, кто его использует, делая их более эффективными и потенциально более опасными как в киберобороне, так и в кибернападении.