Одна треть британских компаний указывает на безопасность данных как на серьезную проблему при внедрении LLM

Одна из трех компаний в Великобритании беспокоится о безопасности своих данных при использовании больших языковых моделей (LLM), поскольку они эволюционировали из помощников, отвечающих на команды или вопросы, в независимые системы, действующие без постоянного вмешательства человека.

В результате эти организации неохотно полностью интегрируют ИИ-агенты в свои операционные системы, опасаясь потерять контроль над своими данными и безопасностью для машин, которые могут «думать самостоятельно».

Правительство Великобритании предпринимает шаги для решения этих проблем. Министр Кабинета министров Пат МакФадден объявил о рассекречивании разведывательной оценки, указывающей на то, что ИИ усилит киберугрозы в ближайшие годы.

В 2024 году NCSC получил почти 2000 сообщений о кибератаках, из которых почти 90 были признаны «значительными», а 12 — «на самом верхнем уровне серьезности». Это в три раза больше, чем количество серьезных атак по сравнению с предыдущим годом.

Британские компании выражают опасения по поводу безопасности данных в LLM

Бизнесы в Великобритании должны соблюдать строгие правила, защищающие данные людей и предотвращающие их misuse, такие как Закон о защите данных Великобритании и Общий регламент по защите данных ЕС (GDPR).

Компании, нарушающие эти законы, рискуют столкнуться с судебными исками и повреждением репутации, поэтому они пересматривают свои стратегии LLM. ИИ может раскрыть частную информацию или сгенерировать вводящие в заблуждение результаты без тщательного человеческого надзора или точного промптинга. 

Изначально инструменты ИИ, такие как чатботы, предоставляли фиксированные ответы, в то время как умные термостаты просто меняли температуру, следуя простым правилам, без размышлений или обучения на новых данных, предыдущих действиях или результатах их решений. Однако сегодня ИИ-агенты используют LLM для обучения на данных, изменения своих действий на основе новой информации и решения различных проблем путем рассуждений, подобных человеческим. 

Но это лишь малая часть гораздо более серьезной проблемы, поскольку пользователи также могут поручить агенту выполнить задачу, и он разобьет ее на более мелкие этапы, выполнит каждый из них по отдельности, а затем оценит результаты. Кроме того, некоторые агенты могут объединяться для решения сложных задач: один из них выполняет работу, а другой проверяет результаты, чтобы улучшить итоговый эффект. 

Хотя этот рост помогает бизнесу автоматизировать операции и сокращает время, которое потребовалось бы человеческим командам, это также представляет угрозу: чем больше решений эти агенты принимают самостоятельно, тем сложнее нам полностью понимать, предсказывать или контролировать их действия. Аналогичным образом, последствия их ошибок могут расти экспоненциально, поскольку эти ИИ-агенты действуют непрерывно, не останавливаясь для получения человеческого ввода. 

Компании внедряют ИИ-агентов осторожно, на уровне различных отделов

Многие компании в Великобритании используют ИИ-агентов в своей повседневной деятельности: отделы обслуживания клиентов, управления персоналом (HR) и маркетинга постепенно тестируют эти инструменты и внимательно следят за их работой.

Хорошим примером бизнеса является компания Pets at Home, которая создала ИИ-агента для своего ветеринарного персонала, чтобы предоставлять быстрые ответы и поддержку во время осмотра животных, что демонстрирует, насколько полезны ИИ-агенты даже для небольших задач в реальной работе. 

В настоящее время большинству систем агентного ИИ требуется человеческое руководство, проверка их работы и исправление ошибок, поскольку они еще не готовы полностью заменить людей без надзора. Однако в будущем компаниям, возможно, придется принимать трудные решения, позволяющие интегрировать ИИ-агентов в свои системы, сохраняя при этом контроль.