Крупные корпорации прокладывают пути для безопасного внедрения генеративного ИИ

В мире, где привлекательность генеративного ИИ переплетается с проблемами безопасности, опрос Deloitte выявил скрытую волну внедрения на рабочих местах. Один из десяти взрослых в Великобритании тайно использует сервисы, подобные ChatGPT, в своих ежедневных задачах, что вызывает вопросы о одобрении руководством и рисках неконтролируемого использования. 

По мере раскрытия сложностей крупные корпорации действуют осторожно: либо полностью запрещая генеративный ИИ, либо, в случае McKinsey и AXA, внедряя контролируемый генеративный ИИ для конкретных задач. Это знаменует поворотный момент в продолжающейся саге о внедрении технологий и его последствиях.

Скрытный рост внедрения генеративного ИИ

В тенях офисов по всему миру сотрудники тихо интегрируют генеративный ИИ в свои рабочие процессы, избегая внимания руководства. Результаты Deloitte указывают на тревожное отсутствие осведомленности о ограничениях этих моделей, при этом значительный процент сотрудников предполагает их неизменную точность и беспристрастность. 

Потенциальные опасности, от непреднамеренных утечек данных до плагиата конфиденциальной информации, скрываются как зловещие угрозы. Через Атлантику ошеломляющие 70% сотрудников США, работающих в компаниях из списка Fortune 500, тайно используют ChatGPT, что побуждает такие обеспокоенные корпоративные структуры, как Verizon, вводить строгие запреты.

На фоне этой скрытой революции генеративного ИИ вопросы продуктивности против рисков для безопасности висят в воздухе. В то время как некоторые корпорации выбирают полный запрет для защиты от потенциальных утечек данных, другие видят возможность для контролируемой интеграции. Смелый шаг McKinsey по разрешению половине своего персонала использовать генеративный ИИ под надзором является примером нюансированного подхода к балансу технологического прогресса и проблем безопасности.

Создание корпоративных защитных мер в эпоху генеративного ИИ

По мере того как крупные корпорации борются с растущим внедрением генеративного ИИ, возникает важный аспект — создание внутренних защитных мер. Признавая необходимость надзора, решение McKinsey разрешить контролируемое использование задает прецедент. Процесс установления руководящих принципов и порогов для соответствующего использования становится комитетным усилием, при этом различные сектора формируют выделенные целевые группы.

Эксперт по генеративному ИИ Генри Адер проливает свет на общие черты этих защитных мер, подчеркивая четкие правила использования данных, раскрытия информации клиентам и необходимости человеческого надзора за конечным применением или выводом. Однако нюансы в каждой отрасли приводят к вариациям. Финансовые учреждения и юридические фирмы с большими бюджетами на соблюдение нормативных требований могут даже налагать ограничения на уровне отделов, адаптируя руководящие принципы к конкретным рискам, связанным с различными бизнес-функциями.

Однако, по мере формирования этих защитных мер, вопрос ответственности остается неясным. В случаях, когда генеративный ИИ вносит ошибки в рабочие процессы, определение виновности становится деликатным вопросом. Инсайты Адера о иерархической структуре ответственности в компаниях, использующих генеративный ИИ, подчеркивают потенциальные трудности, с которыми сталкиваются сотрудники. Идея о том, что «ответственность останавливается на менеджере, управляющем моделью», подразумевает прямую связь между менеджером, overseeing AI system, и ответственностью за любые внесенные ошибки. Это наблюдение освещает потенциал для недоумения среди сотрудников, которые могут чувствовать себя вынужденными принимать услуги генеративного ИИ без полного понимания возможных последствий.

Обеспечение корпоративной продуктивности за счет интеграции генеративного ИИ

По мере того как корпоративный ландшафт осваивает неизведанные воды интеграции генеративного ИИ, баланс между продуктивностью и безопасностью становится все более сложным. Смелый шаг McKinsey и развертывание Secure GPT компанией AXA подчеркивают веру в то, что контролируемое использование может раскрыть потенциал продуктивности без ущерба для безопасности.

Возникающий вопрос заключается в том, последуют ли другие корпорации этому примеру, осторожно внедряя генеративный ИИ в рамках тщательно продуманных защитных мер, или продолжат выбирать полный запрет. В этом технологическом танце, где риски и награды находятся в постоянном движении, корпоративный мир должен столкнуться с вопросом: можно ли действительно безопасно использовать генеративный ИИ на рабочем месте?