Опросы по кибербезопасности GenAI: рекомендации для ответственной интеграции
- Внедрение GenAI опережает меры безопасности, подчеркивая необходимость комплексных стратегий кибербезопасности.
- Инвестиции в генеративный ИИ стремительно растут: прогнозы достигают 143 миллиардов долларов к 2027 году, что свидетельствует о его возрастающей важности.
- Руководители по безопасности выражают обеспокоенность угрозами, порожденными ИИ, и необходимостью ужесточения регулирования ИИ в отрасли. #GenAICybersecurity
В быстро меняющемся технологическом ландшафте генеративный ИИ emerged как трансформирующая сила, способная изменить отрасли и открыть новые возможности в различных областях. Однако по мере того, как организации все чаще интегрируют генеративный ИИ в свою деятельность, крайне важно сохранять бдительность в отношении этических соображений и нормативного соответствия, чтобы обеспечить ответственное и устойчивое использование этой передовой технологии в области кибербезопасности. В этой статье мы представляем ключевые выводы из 11 опросов по кибербезопасности GenAI, проведенных в 2023 году, которые проливают свет на критические аспекты, способные повлиять на будущие стратегии кибербезопасности.
Принятие GenAI и проблемы безопасности: малый бизнес активно использует GenAI
Опрос, в котором приняли участие более 900 глобальных ИТ-руководителей, выявил парадоксальную тенденцию. Хотя ошеломляющие 89% организаций считают инструменты генеративного ИИ, такие как ChatGPT, потенциальными рисками для безопасности, поразительные 95% этих организаций уже используют их в той или иной форме в своем бизнесе. Этот разрыв между признанием риска и активным использованием подчеркивает необходимость более комплексного подхода к кибербезопасности в эпоху генеративного ИИ.
Введение серии GPT-3.5 компанией OpenAI в конце 2022 года спровоцировало всплеск инвестиций в генеративный ИИ по всему миру. Компании, хотя и знакомые с технологиями ИИ, перенаправили свои инвестиции на освоение этого новейшего предложения. Согласно Международной корпорации данных (IDC), этот всплеск инвестиций в генеративный ИИ означает сдвиг в технологическом ландшафте, указывая на растущее осознание потенциала, который генеративный ИИ несет для различных отраслей.
Технологические лидеры не успевают за темпом развития
По мере дальнейшего развития искусственного интеллекта он представляет собой серьезные вызовы для организаций. Только 15% глобальных технологических лидеров сообщают, что они адекватно готовы удовлетворить требования генеративного ИИ. Подавляющее большинство в 88% этих лидеров подчеркивают необходимость более строгих правил регулирования ИИ, согласно исследованию, проведенному Harvey Nash. Эти данные подчеркивают необходимость проактивных мер для устранения разрыва между инновациями в области ИИ и регуляторным контролем.
Несмотря на опасения по поводу безопасности, организации выражают высокую уверенность в потенциальных преимуществах генеративного ИИ. Значительные 82% респондентов считают, что GenAI дает им конкурентное преимущество. Этот оптимизм подчеркивает многообещающие возможности генеративного ИИ, которые при ответственном использовании могут принести существенные преимущества бизнесу в различных секторах.
Руководители по безопасности настороженно относятся к угрозам, генерируемым ИИ
Всплеск объема и сложности атак по электронной почте в последние месяцы вызвал обеспокоенность среди руководителей по безопасности. Генеративный ИИ подозревается в стоянии за этой тенденцией, и эксперты предполагают, что это только начало. По мере того как атаки, сгенерированные ИИ, становятся более распространенными, специалисты по безопасности должны оставаться бдительными и проактивными в адаптации своей защиты.
Организации выделяют несколько проблем, связанных с генеративным ИИ, включая конфиденциальность данных и киберпроблемы (65%), принятие сотрудниками решений на основе неточной информации (60%), неправильное использование сотрудниками и этические риски (55%), а также риски, связанные с авторским правом и интеллектуальной собственностью (34%). Эти проблемы подчеркивают многогранность вызовов, posedых генеративным ИИ, и необходимость комплексных стратегий управления рисками.
Будущее инвестиций в GenAI: инвестиции растут
Инвестиции в генеративный ИИ готовы к значительному росту, прогнозы предсказывают всплеск, который может достичь 143 миллиардов долларов к 2027 году. Сегменты программного обеспечения GenAI, включая платформы/модели GenAI, разработку и развертывание приложений GenAI (AD&D) и прикладное программное обеспечение, должны испытать быстрое расширение, что отражает возрастающую важность технологии в различных отраслях.
По мере того как организации все чаще интегрируют генеративный ИИ в свою деятельность, потребуются новые компетенции. Появление таких ролей, как «инженеры по промптам» (prompt engineers), специализирующиеся на написании и тестировании промптов для систем GenAI, является свидетельством эволюционирующего набора навыков, необходимых для эффективного использования GenAI. Чтобы раскрыть потенциал GenAI, организации должны разрабатывать персонализированные программы обучения и карты навыков для ключевых ролей.
Сложности в управлении рисками GenAI
Одной из значительных проблем, связанных с генеративным ИИ, является возможность неверной интерпретации. Столкнувшись с вопросом, на который он не может ответить точно, генеративный ИИ может прибегнуть к процессу, известному как «галлюцинация искусственного интеллекта», при котором он придумывает ответ. Этот вызов подчеркивает важность совершенствования моделей ИИ и обеспечения того, чтобы они предоставляли точную и надежную информацию.
Руководители служб безопасности (SecOps) быстрее внедрили генеративный ИИ в процесс разработки программного обеспечения, чем их коллеги из DevOps. Значительные 45% руководителей SecOps уже интегрировали генеративный ИИ, указывая на значительную экономию времени, при этом 57% сообщают об экономии не менее 6 часов в неделю. Напротив, только 31% респондентов из DevOps приняли генеративный ИИ. Этот разрыв вызывает вопросы о балансе между повышением эффективности и потенциальными рисками.
ИТ-лидеры обеспокоены последствиями для безопасности SaaS со стороны GenAI
С появлением приложений генеративного ИИ, таких как ChatGPT, ИТ-лидеры теперь должны учитывать последствия для безопасности программного обеспечения как услуги (SaaS). Значительные 23% респондентов выразили обеспокоенность тем, что приложения генеративного ИИ являются наиболее серьезной проблемой безопасности SaaS. Это подчеркивает необходимость для организаций адаптировать свои стратегии безопасности с учетом изменяющегося ландшафта угроз, введенного генеративным ИИ.
Генеративный ИИ готов революционизировать различные отрасли, включая кибербезопасность. Хотя организации с энтузиазмом принимают эту технологию из-за ее трансформирующего потенциала, они должны делать это с пристальным вниманием к вопросам безопасности и этики. Выводы этих опросов по кибербезопасности GenAI служат своевременным напоминанием о вызовах и возможностях, presentedых генеративным ИИ, побуждая бизнес и регуляторов работать вместе, чтобы ответственно и устойчиво использовать его потенциал в постоянно меняющемся цифровом ландшафте.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
