Внедрение генеративного ИИ в кибербезопасность может стать лучшим решением против угроз со стороны ИИ

Согласно исследованиям Университета Мэриленда, Moody’s Investors Service в прошлом месяце заявила, что средний годовой рост кибератак с 2017 по 2023 год составил 26%. 

Поскольку организациям нечасто предписывается сообщать о кибератаках, эта цифра, вероятно, занижена. По мнению Moody’s, генеративный ИИ, вероятно, будет благоприятствовать злоумышленникам в краткосрочной и среднесрочной перспективе по мере роста проблем с кибербезопасностью.

ИИ усилил угрозу кибербезопасности

За последние два года генеративный искусственный интеллект, или «ген ИИ», стал главной стратегической целью практически во всех отраслях в своем развитии от поразительных демонстраций. Большинство генеральных директоров говорят, что находятся под давлением необходимости тратить деньги на искусственный интеллект. 

Продуктовые команды в настоящее время лихорадочно работают над интеграцией Gen AI в свои товары и услуги. Чтобы контролировать риски, связанные с ИИ, США и ЕС начинают внедрять новые правовые рамки.

Киберпреступники и хакеры не собираются бездействовать в midst всего этого хаоса. Искусственный интеллект (ИИ) исследуется для различных целей, включая улучшение грамматики фишинговых сообщений и создание поддельных видео и аудио для обманных или принудительных финансовых требований. 

Они также пытаются выяснить, как вывести из строя модели ИИ, в которые компании активно инвестируют. Эффективность стратегии кибербезопасности организации во многом определяет, кто впереди — злоумышленники или защитники. 

На самом деле, инструменты генеративного ИИ для центров безопасности (SOC) все еще находятся на начальной стадии и будут только улучшаться в течение следующего года. Лидеры в области кибербезопасности, которые хотят внедрить эти решения, должны воспользоваться этой возможностью, чтобы изучить, как оценивать технологии безопасности на основе генеративного ИИ и как тщательно выбирать поставщиков, предлагающих решения для кибербезопасности.

Яд против яда

В ближайшем будущем злоумышленники будут развертывать все более совершенный ИИ, чтобы сделать свои атаки более массовыми, более уклончивыми и более гибкими. Командам безопасности придется адаптироваться и максимально использовать современные технологии. Команды безопасности также могут повысить эффективность своих операций, используя ИИ и машинное обучение, отметил Сридар Муппиди, главный технологический директор по программному обеспечению для безопасности в IBM, в техническом документе.

Системы безопасности на базе ИИ также могут помочь аналитикам оценивать серьезность выявленных угроз. Эти системы также помогают сократить время, затрачиваемое на выявление ложных срабатываний, чтобы руководство могло уделять больше времени сосредоточению на непосредственных серьезных опасностях.

Поиск угроз занимает время. Старшие аналитики безопасности ищут индикаторы компрометации, переключаясь между инструментами и журналами событий. ИИ может сэкономить время, так как даже младшие аналитики смогут выполнять эту работу с помощью инструментов генеративного ИИ.

Чтобы ускорить реакцию на возникающие угрозы, эти инструменты должны автоматически генерировать поисковые запросы для обнаружения рисков, причем эти запросы должны основываться на описаниях поведения атак и тенденций на естественном языке.

Атаки также будут увеличиваться по мере того, как компании будут использовать Gen AI в цепочке поставок, маркетинге, разработке продуктов, обслуживании клиентов и других областях своего бизнеса. Использование этих же возможностей генеративного ИИ является разумным способом защиты ваших моделей ИИ, данных и использования.

Вы можете начать максимально эффективно использовать свое время и возможности, когда ознакомитесь с возможностями этих продуктов, а также с недостатками инструментов и поставщиков, которые могут не соответствовать нашим требованиям. Кроме того, вы можете чувствовать себя более уверенно в отношении безопасности, которую вы обеспечиваете для своей инфраструктуры, данных и сотрудников.