Опросы GenAI по кибербезопасности: выводы для ответственной интеграции

В стремительно развивающемся технологическом мире генеративный ИИ стал преобразующей силой, способной изменить целые отрасли и открыть новые возможности в различных областях. Однако, по мере того как организации все чаще интегрируют генеративный ИИ в свою деятельность, крайне важно сохранять бдительность в отношении этических соображений и соблюдения нормативных требований, чтобы обеспечить ответственное и устойчивое использование этой передовой технологии в сфере кибербезопасности. В этой статье мы представляем ключевые результаты 11 опросов по кибербезопасности, проведенных GenAI в 2023 году, освещая важные выводы, которые могут лечь в основу будущих стратегий кибербезопасности.

Проблемы внедрения GenAI и безопасности, с которыми сталкиваются малые предприятия, способствуют внедрению GenAI

Опрос, в котором приняли участие более 900 руководителей ИТ-подразделений по всему миру, выявил парадоксальную тенденцию. В то время как целых 89% организаций считают инструменты генеративного ИИ, такие как ChatGPT, потенциальными угрозами безопасности, поразительные 95% из этих организаций уже используют их в той или иной форме в своей деятельности. Этот разрыв между осознанием риска и активным использованием подчеркивает необходимость более комплексного подхода к кибербезопасности в эпоху генеративного ИИ.

Выпуск серии GPT-3.5 компанией OpenAI в конце 2022 года спровоцировал резкий рост инвестиций в генеративный искусственный интеллект по всему миру. Компании, несмотря на знакомство с технологиями ИИ, перенаправили свои инвестиции на внедрение этой новейшей разработки. По данным Международной корпорации данных (IDC), этот всплеск инвестиций в генеративный ИИ свидетельствует о сдвиге в технологическом ландшафте, указывая на растущее осознание потенциала генеративного ИИ в различных отраслях.

Лидерам технологической отрасли сложно угнаться за темпами развития

По мере дальнейшего развития искусственного интеллекта перед организациями встают серьезные задачи. Только 15% мировых технологических лидеров заявляют о достаточной готовности к требованиям генеративного ИИ. Согласно исследованию компании Harvey Nash, подавляющее большинство (88%) этих лидеров подчеркивают необходимость ужесточения регулирования вtronИИ. Эти данные указывают на необходимость принятия упреждающих мер для преодоления разрыва между инновациями в области ИИ и нормативным контролем.

Несмотря на опасения по поводу безопасности, организации выражают высокую уверенность в потенциальных преимуществах генеративного ИИ. Значительные 82%dentсчитают, что генеративный ИИ дает им конкурентное преимущество. Этот оптимизм подчеркивает многообещающие возможности генеративного ИИ, который при ответственном использовании может принести существенные выгоды предприятиям в различных секторах.

Руководители служб безопасности опасаются угроз, создаваемых искусственным интеллектом

В последние месяцы резко возросло количество и изощренность атак по электронной почте, что вызвало обеспокоенность среди руководителей служб безопасности. Предполагается, что за этой тенденцией стоит генеративный искусственный интеллект, и эксперты считают, что это только начало. По мере того как атаки, генерируемые ИИ, становятся все более распространенными, специалисты по безопасности должны сохранять бдительность и проявлять инициативу в адаптации своих средств защиты.

Организацииdentна ряд проблем, связанных с генеративным ИИ, включая конфиденциальность данных и кибербезопасность (65%), принятие сотрудниками решений на основе неточной информации (60%), злоупотребления со стороны сотрудников и этические риски (55%), а также риски, связанные с авторским правом и интеллектуальной собственностью (34%). Эти проблемы подчеркивают многогранный характер вызовов, создаваемых генеративным ИИ, и необходимость комплексных стратегий управления рисками.

Будущее инвестиций в GenAI: инвестиции в GenAI растут

Инвестиции в генеративный искусственный интеллект готовы к значительному росту, и, согласно прогнозам, к 2027 году их объем может достигнуть 143 миллиардов долларов. Ожидается, что сегменты программного обеспечения для генеративного ИИ, включая платформы/модели генеративного ИИ, разработку и развертывание приложений генеративного ИИ (AD&D) и прикладное программное обеспечение, будут быстро расширяться, отражая растущую важность этой технологии в различных отраслях.

По мере того, как организации все чаще интегрируют генеративный ИИ в свою деятельность, потребуются новые компетенции. Появление таких должностей, как «инженеры по подсказкам», специализирующиеся на написании и тестировании подсказок для систем генеративного ИИ, свидетельствует о необходимости развития навыков для эффективного использования генеративного ИИ. Для раскрытия потенциала генеративного ИИ организациям необходимо разрабатывать персонализированные программы обучения и карты навыков для ключевых должностей.

Проблемы в управлении рисками GenAI

Одна из серьезных проблем, связанных с генеративным ИИ, — это потенциальная возможность неверной интерпретации. Столкнувшись с вопросом, на который он не может дать точный ответ, генеративный ИИ может прибегнуть к процессу, известному как «искусственная галлюцинация», в ходе которого он придумывает ответ. Эта проблема подчеркивает важность совершенствования моделей ИИ и обеспечения того, чтобы они предоставляли точную и надежную информацию.

Руководители подразделений по обеспечению безопасности (SecOps) быстрее внедряют генеративный ИИ в процесс разработки программного обеспечения, чем их коллеги из DevOps. Значительные 45% руководителей SecOps уже интегрировали генеративный ИИ, отмечая существенную экономию времени: 57% сообщают об экономии не менее 6 часов в неделю. В отличие от них, только 31%dentиз DevOps внедрили генеративный ИИ. Это расхождение поднимает вопросы о балансе между повышением эффективности и потенциальными рисками.

ИТ-руководители обеспокоены последствиями внедрения GenAI SaaS-решений для безопасности

С появлением приложений генеративного ИИ, таких как ChatGPT, ИТ-руководителям теперь необходимо учитывать последствия для безопасности программного обеспечения как услуги (SaaS). Примечательно, что 23%dentопроса выразили обеспокоенность тем, что приложения генеративного ИИ представляют собой наиболее серьезную проблему безопасности SaaS. Это подчеркивает необходимость адаптации организациями своих стратегий безопасности с учетом меняющегося ландшафта угроз, создаваемых генеративным ИИ.

Генеративный искусственный интеллект готов произвести революцию в различных отраслях, включая кибербезопасность. Хотя организации с энтузиазмом внедряют эту технологию из-за ее преобразующего потенциала, они должны делать это с пристальным вниманием к вопросам безопасности и этики. Результаты этих опросов по кибербезопасности, посвященных генеративному искусственному интеллекту, служат своевременным напоминанием о проблемах и возможностях, которые предоставляет генеративный ИИ, призывая предприятия и регулирующие органы к сотрудничеству для ответственного и устойчивого использования его потенциала в постоянно меняющемся цифровом пространстве