Растёт неопределённость на фоне использования генеративного ИИ: результаты опроса ISACA

Недавний опрос, проведённый ISACA, глобальной ассоциацией по вопросам цифрового доверия, пролил свет на растущую неопределённость, связанную с генеративным искусственным интеллектом (ИИ). Опрос под названием «Generative AI 2023: An ISACA Pulse Poll» охватил более 2300 специалистов, работающих в таких областях, как кибербезопасность, ИТ-аудит, управление, конфиденциальность данных и управление рисками. Он выявил заметный разрыв между высоким уровнем использования генеративного ИИ и отсутствием комплексных корпоративных политик, регулирующих его применение.

Опрос показал, что значительный процент организаций разрешает сотрудникам использовать генеративный ИИ, даже при отсутствии явных политик. Лишь 28% организаций сообщили о наличии политик, прямо разрешающих использование генеративного ИИ, и всего 10% заявили о наличии формальной комплексной политики.

Шокирующе, но более чем каждый четвёртый участник опроса заявил, что в их организации отсутствует как политика, так и планы по её разработке. Более того, 40% респондентов сообщили, что сотрудники используют генеративный ИИ вопреки отсутствию формальных политик, а ещё 35% не были уверены, происходит ли такое использование вообще.

Генеративный ИИ применяется в различных областях внутри организаций, включая создание контента, повышение производительности, автоматизацию задач, обслуживание клиентов и принятие решений.

Недостаток знаний и подготовки

Хотя сотрудники активно осваивают генеративный ИИ, опрос показал, что организации отстают в предоставлении адекватной подготовки. Лишь 6% организаций респондентов предлагают обучение по ИИ всем сотрудникам. Ещё более тревожным является тот факт, что 54% сообщили об отсутствии какого-либо обучения по ИИ, даже для команд, непосредственно затронутых внедрением ИИ. Кроме того, лишь 25% респондентов чувствовали себя хорошо знакомыми с генеративным ИИ.

Джейсон Лау, член совета директоров ISACA и CISO в Crypto.com, подчеркнул необходимость для организаций догнать упущенное и предоставить политики, руководства и обучение, чтобы обеспечить ответственное и этичное использование генеративного ИИ. Он заявил, что сотрудники не ждут разрешения, чтобы использовать генеративный ИИ в своей работе, подчеркнув необходимость большей согласованности между работодателями и сотрудниками в отношении этой технологии.

Вопросы рисков и эксплуатации

В опросе также были рассмотрены этические проблемы и риски, связанные с генеративным ИИ. Тревожные 41% респондентов выразили мнение, что недостаточное внимание уделяется этическим стандартам внедрения ИИ. Удивительно, но менее трети организаций считают управление рисками ИИ непосредственным приоритетом. 29% рассматривают это как долгосрочную проблему, а 23% заявили, что их организации в настоящее время не планируют решать вопросы рисков ИИ.

Респонденты выделили несколько основных рисков, связанных с генеративным ИИ, включая дезинформацию и фейковые новости, нарушение конфиденциальности, социальную инженерию, потерю интеллектуальной собственности и вытеснение рабочих мест.

Особую обеспокоенность вызывал страх, что генеративный ИИ может быть использован злоумышленниками: 57% респондентов указали на высокий уровень тревоги по этому поводу. Кроме того, 69% считали, что противники используют ИИ так же успешно или даже более успешно, чем специалисты по цифровому доверию.

Влияние на рабочие места и оптимизм

Изучая влияние ИИ на рабочие роли, респонденты полагали, что безопасность, ИТ-операции и управление рисками и соответствием требованиям несут основную ответственность за обеспечение безопасного внедрения ИИ. В будущем 19% организаций заявили, что в течение следующих 12 месяцев они создадут рабочие места, связанные с функциями ИИ. 

Однако 45% считали, что значительное количество рабочих мест будет ликвидировано из-за ИИ. Интересно, что 70% специалистов по цифровому доверию сохраняли оптимизм относительно положительного влияния ИИ на их роли, но 80% признали необходимость дополнительной подготовки, чтобы сохранить свои рабочие места или продвинуться по карьерной лестнице.

Несмотря на проблемы и неопределённость, связанные с ИИ, значительная часть респондентов выразила оптимизм. 80% считали, что ИИ окажет положительное или нейтральное влияние на их отрасль, организации и карьеру. Более того, 85% рассматривали ИИ как инструмент, расширяющий человеческую продуктивность, а 62% полагали, что он окажет положительное или нейтральное влияние на общество в целом.