- Генеративный ИИ стал одним из главных корпоративных рисков во втором квартале 2023 года, вызывая опасения в области конфиденциальности данных и кибербезопасности.
- Экономические спады усиливают риски, связанные с устойчивостью третьих сторон, что может негативно сказаться на цепочках поставок и финансовом планировании.
- Быстрое внедрение инструментов ИИ обществом подчеркивает необходимость проактивного управления рисками в технологическом и экономическом секторах.
Согласно недавнему исследованию компании Gartner, Inc., генеративный искусственный интеллект (ИИ), включая такие известные модели, как ChatGPT от OpenAI и Google Bard, вышел на передний план в вопросах корпоративных рисков во втором квартале 2023 года.
Инсайты из опроса
В ходе всеобъемлющего опроса, проведенного в мае 2023 года, Gartner связалась с 249 старшими руководителями по корпоративным рискам, стремясь предложить стандартизированную перспективу на 20 назревающих рисков. Ежеквартальные отчеты о новых рисках, представляющие собой детальный анализ, проливают свет на потенциальное влияние, временные рамки, уровень внимания и воспринимаемые возможности, связанные с этими рисками.
Массовая доступность генеративного ИИ была названа вторым по частоте упоминанием риском. Тем временем жизнеспособность третьих сторон заняла первое место как быстро развивающийся риск, находящийся под пристальным вниманием в опросе второго квартала 2023 года. За ними последовали неопределенность в финансовом планировании и риск концентрации в облачных сервисах, а замыкали пятерку торговых напряженностей с Китаем. Эти риски представляют собой смесь текущих макроэкономических факторов, геополитической волатильности и технологических опасений.
Ран Сюй, директор по исследованиям в практике Gartner Risk & Audit, считает, что внезапное появление генеративного ИИ в десятке лучших, заняв второе место, отражает быстрый рост общественной осведомленности и внедрения инструментов генеративного ИИ. Это также подчеркивает широкий спектр потенциальных применений и, следовательно, связанных с ними рисков.
Риски генеративного ИИ
Ранее Gartner выделила шесть присущих рисков генеративного ИИ и четыре соответствующие области регулирования ИИ. Для эффективного управления корпоративными рисками Gartner подчеркивает три ключевые области: интеллектуальная собственность, конфиденциальность данных и кибербезопасность.
Вопросы интеллектуальной собственности
Инструменты генеративного ИИ могут непреднамеренно интегрировать информацию в свои обучающие наборы данных. Ран Сюй объяснил, что информация, поданная в инструмент генеративного ИИ, может стать частью его обучающего набора. Это означает, что конфиденциальные или проприетарные данные могут непреднамеренно появиться в выводах для других пользователей. Кроме того, использование выводов из этих инструментов может непреднамеренно нарушить права интеллектуальной собственности предыдущих пользователей. Gartner подчеркивает важность просвещения корпоративных лидеров о необходимости осмотрительности и открытости при использовании таких инструментов, обеспечивая адекватное решение рисков интеллектуальной собственности.
Проблемы конфиденциальности данных
Инструменты генеративного ИИ могут непреднамеренно передавать данные пользователей третьим лицам, таким как поставщики или поставщики услуг, без предварительного уведомления. Такие действия могут нарушить законы о конфиденциальности во многих регионах. Примечательно, что Китай и ЕС уже приняли регулирующие акты, а в США, Канаде, Индии и Великобритании предлагаются новые законы.
Угрозы кибербезопасности
Инструменты генеративного ИИ не застрахованы от киберугроз. Сюй отметил, что существуют коды вредоносного ПО и программ-вымогателей, созданные генеративным ИИ после обмана, а также атаки «инъекции промптов», которые вводят эти инструменты в заблуждение, заставляя их раскрывать информацию, которую они не должны раскрывать. Это открывает путь для массового выполнения сложных фишинговых атак.
Экономические условия и жизнеспособность третьих сторон
Аналитики также выделили потенциальное усиление рисков жизнеспособности третьих сторон из-за ухудшения экономических условий. Персистирующая инфляция, менее чувствительная к корректировкам процентных ставок и длящаяся дольше, чем ожидалось, усилила давление на затраты и маржу третьих сторон. По мере того как центральные банки повышают процентные ставки для борьбы с инфляцией, это запускает фазу ужесточения кредитования, потенциально толкая поставщиков к приостановке операций или банкротству из-за растущих расходов на заимствования.
Широкий экономический спад может привести к непредвиденному спаду спроса, ставя под угрозу жизнеспособность поставщиков или их способность своевременно поставлять товары и услуги.
Эксперты Gartner outlined три возможных последствия жизнеспособности третьих сторон для менеджеров по рискам: потеря необходимых входов и материалов, ошибочные предположения в финансовом планировании и внешние проблемы цепочки поставок.
По мере изменения ландшафта новых рисков предприятия должны оставаться бдительными, особенно в области генеративного ИИ. Сочетание технологических достижений и экономических колебаний требует проактивного подхода к управлению рисками.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
