Предприятия сталкиваются с растущими угрозами по мере умножения рисков, связанных с генеративным ИИ

Недавнее расследование, проведенное компанией Riskonnect, выявило значительные опасности, связанные с внедрением генеративного ИИ в корпоративной среде. Хотя подавляющее большинство, 93%, компаний признают эти риски, лишь 9% считают себя достаточно подготовленными для решения и смягчения этих назревающих опасностей.

Корпорации испытывают трудности с тем, чтобы успевать за управлением рисками ИИ

Результаты исследования указывают на тревожный дефицит в решении вопросов управления рисками ИИ во всем корпоративном секторе. Лишь 17% руководителей по вопросам рисков и соответствия требованиям предприняли формальные меры по обучению и информированию своих организаций о потенциальных опасностях, связанных с внедрением технологий генеративного ИИ.

Джим Уэтекэмп, генеральный директор Riskonnect, выразил обеспокоенность по поводу медленной реакции на эту новую угрозу, заявив: «Генеративный ИИ развивается с беспрецедентной скоростью, порождая новую волну бизнес-рисков. Наши результаты исследования подчеркивают вялую реакцию корпораций, создающую уязвимости во всей организации. Появление генеративного ИИ — это последний пример того, как быстро меняется современный ландшафт рисков. Мы unequivocally вошли в новую эру рисков».

Основные опасения: конфиденциальность данных, кибербезопасность и другие

Исследование подчеркивает различные насущные проблемы среди корпораций в отношении генеративного ИИ. Среди этих опасений — вопросы конфиденциальности данных и кибербезопасности, о которых беспокоятся 65% компаний. Кроме того, 60% респондентов обеспокоены перспективой принятия сотрудниками решений на основе ошибочной информации, а 55% обеспокоены потенциальным неправомерным поведением сотрудников и этическими дилеммами. Риски, связанные с интеллектуальной собственностью и нарушением авторских прав, также остаются серьезной проблемой, о чем свидетельствуют 34% компаний, признающих эти опасения обоснованными.

Преобладающие риски в настоящее время

Даже по мере того как генеративный ИИ приобретает все большее значение, корпорации остаются уязвимыми перед другими факторами риска. Четыре основных риска, влияющих на организации, включают нехватку кадров и сокращения штата, риски рецессии, программы-вымогатели, нарушения безопасности и кибератаки, спонсируемые государствами.

Примечательно, что 63% компаний воздержались от моделирования своих наихудших сценариев, оставаясь плохо подготовленными к обработке и преодолению непредвиденных рисков. Лишь 5% чувствуют себя достаточно подготовленными к борьбе с непредвиденными и непредсказуемыми рисками в будущем.

Еще одной важной проблемой,Highlighted исследованием, является отсутствие доверия к управлению рисками. Лишь 23% организаций уверены в точности, качестве и применимости данных об управлении рисками. Еще меньшая доля, всего 5%, испытывает сильную уверенность в своей способности извлекать, консолидировать и доносить риски для принятия обоснованных решений.

Среди проблем, которые корпорации связывают с нехваткой кадров и сокращениями штата, исследование выделяет ошибки и сокращения, вызванные выгоранием сотрудников, как самую значительную проблему, о чем беспокоятся 66% компаний. Вслед за этим идет опасение неспособности достичь стратегических целей, которое разделяют 41% организаций.

Инвестиции в борьбу с новыми рисками

Несмотря на эти проблемы, корпорации принимают проактивные меры для решения возникающих рисков. Примечательным результатом является то, что 52% компаний назначили главного офицера по рискам, и еще 6% планируют сделать это в ближайшие 6–12 месяцев. Это отражает растущее признание критической роли выделенного руководства по управлению рисками.

Более того, несмотря на сокращения в других секторах, 82% компаний подтверждают, что их штат, занимающийся управлением рисками, либо вырос, либо остался стабильным за последние полгода. Кроме того, 28% организаций сообщили об увеличении бюджетных ассигнований на технологии управления рисками в тот же период.

Джим Уэтекэмп, генеральный директор Riskonnect, прокомментировал эти обнадеживающие изменения, заявив: «Мы наблюдаем значительные и позитивные сдвиги в том, как корпорации выявляют, приоритизируют и управляют рисками. Современные лидеры в области рисков признают, что ландшафт угроз постоянно меняется. Они стратегически планируют наихудшие сценарии, приоритизируют видимость во всей организации и инвестируют в инструменты для борьбы со всесторонним и взаимосвязанным спектром рисков».