Генеративный ИИ вызывает опасения у бизнес-лидеров: исследование

Более 90% старших руководителей выражают обеспокоенность по поводу неконтролируемого использования инструментов генеративного ИИ

Недавнее исследование, проведенное поставщиком кибербезопасности Kaspersky, выявило растущие опасения среди руководителей высшего звена (C-suite) по поводу нерегулируемого распространения инструментов генеративного искусственного интеллекта (GenAI) в их организациях. При том, что 90% старших бизнес-лидеров выражают обеспокоенность по поводу неконтролируемого внедрения этих инструментов, очевидно, что генеративный ИИ становится все более интегрированным в различные бизнес-операции.

Тихое проникновение генеративного ИИ

Исследование Kaspersky показало, что более половины (53%) опрошенных старших руководителей считают, что генеративный ИИ теперь активно «двигает» определенные направления бизнеса в их организациях. Однако 59% из них также выразили глубокую обеспокоенность по поводу того, что они описали как «тихое проникновение» генеративного ИИ, что приводит к повышению киберрисков. Это явление «теневых ИИ», когда сотрудники используют генеративный ИИ без надлежащего надзора, создает серьезные проблемы для безопасности данных и управления.

Один из тревожных выводов заключается в том, что лишь 22% опрошенных бизнес-лидеров обсуждали внедрение внутренних политик управления для мониторинга использования генеративного ИИ в своих организациях. Кроме того, 91% признались, что им необходимо лучшее понимание того, как используются эти инструменты, для снижения рисков безопасности.

Дэвид Эм, главный исследователь безопасности в Kaspersky, подчеркнул срочность решения этой проблемы, заявив: «Учитывая, что GenAI быстро развивается и сейчас нет признаков замедления, чем дольше эти приложения работают без контроля, тем сложнее будет контролировать и защищать их в основных бизнес-функциях, таких как HR, финансы, маркетинг или даже ИТ».

Опасения по поводу утечки данных

Генеративный ИИ полагается на непрерывное обучение через ввод данных, что делает защиту данных первостепенной задачей. Даже при добросовестном использовании сотрудники могут непреднамеренно передавать конфиденциальные данные за пределы организации, потенциально вызывая утечку данных. Исследование Kaspersky отразило эту обеспокоенность: 59% руководителей выразили серьезное опасение по поводу риска потери данных.

Несмотря на эти опасения, исследование также показало, что 50% бизнес-лидеров планируют использовать генеративный ИИ в той или иной степени, в основном для автоматизации повторяющихся задач. Кроме того, 44% намерены интегрировать инструменты генеративного ИИ в свои повседневные рутины. Примечательно, что 24% указали, что они склонны использовать генеративный ИИ для автоматизации функций ИТ и безопасности.

Эм прокомментировал эту тенденцию, сказав: «Можно было бы предположить, что перспектива потери конфиденциальных данных и потери контроля над критически важными бизнес-подразделениями заставит руководство высшего звена задуматься, но наши результаты показывают, что почти четверть руководителей отрасли в настоящее время рассматривает возможность делегирования некоторых из своих самых важных функций ИИ».

Однако он также подчеркнул необходимость комплексного понимания управления данными и надежных политик перед дальнейшей интеграцией GenAI в корпоративную среду.

Обсуждение рисков и преимуществ генеративного ИИ приобрело большую значимость. Премьер-министр Великобритании Риши Сунак недавно призвал к повышению осведомленности о рисках, связанных с генеративным ИИ. Это происходит накануне Саммита по безопасности ИИ в Блетчли-Парк, где лидеры отрасли и эксперты обсудят будущее регулирования и интеграцию этой развивающейся технологии.

Двусторонний характер генеративного ИИ

Фабьен Рех, старший вице-президент и генеральный директор Trellix, подчеркнул двойственную природу генеративного ИИ, заявив: «Генеративный ИИ — это обоюдоострый меч — по мере того как ландшафт кибербезопасности продолжает развиваться, распространение генеративного ИИ лишь добавляет дальнейшей сложности в смесь».

Рех подчеркнул важность того, чтобы организации осознавали последствия технологии генеративного ИИ и то, как её можно эффективно использовать и интегрировать. Хотя инструменты генеративного ИИ предлагают преимущество в упрощении повседневных задач и повышении производительности, существуют также опасения относительно их потенциального злоупотребления в злонамеренных действиях, таких как инъекция кода, фишинг, социальная инженерия и технологии глубоких подделок (deepfake).

Он призвал организации приоритизировать надежные меры безопасности и интеграцию соответствующих технологических решений для создания устойчивой защиты от киберугроз.