영국 기업의 3분의 1이 LLM 도입 시 데이터 보안을 주요 우려 사항으로 꼽음

영국의 기업 3곳 중 1곳은 대형 언어 모델(LLM) 사용 시 데이터 안전성을 우려합니다. 이는 명령이나 질문에 응답하는 어시스턴트에서 끊임없는 인간의 개입 없이 독립적으로 작동하는 시스템으로 진화했기 때문입니다.

결과적으로 이러한 조직들은 AI 에이전트 데이터와 보안이 스스로 ‘생각할 수 있는’ 기계들에게 통제권을 잃을까 봐 두려워하여 운영 시스템에 완전히 통합하는 것을 주저하고 있습니다.

영국 정부는 이러한 도전에 대응하기 위한 조치를 취하고 있습니다. 내각부 장관 패트 맥패든은 다가올 해에 AI가 사이버 위협을 고조시킬 것임을 나타내는 정보 평가의 비밀 해제 가능성을 발표했습니다.

2024년, NCSC는 거의 2,000건의 사이버 공격 보고를 받았으며, 그중 거의 90건이 ‘중요함’으로, 12건이 ‘심각도의 최상단’으로 분류되었습니다. 이는 전년 대비 심각한 공격의 3배에 해당하는 수치입니다.

영국 기업들, LLM의 데이터 보안에 적신호

영국의 기업들은 영국의 데이터 보호법 및 EU의 일반 데이터 보호 규정(GDPR)과 같이 사람들의 데이터를 보호하고 오용을 방지하는 엄격한 규정을 준수해야 합니다.

이러한 법률을 위반한 기업은 법적 조치와 평판 훼손의 위험에 처해 있으므로 LLM 전략을 재고하고 있습니다. 주의 깊은 인간 감독이나 정확한 프롬프트 없이 AI는 개인 정보를 노출하거나 오해의 소지가 있는 결과를 생성할 수 있습니다. 

초기에 챗봇과 같은 AI 도구는 고정된 답변을 제공했으며, 스마트 온도 조절기는 단순한 규칙을 따르고 새로운 데이터, 이전 행동 또는 결정의 결과를 생각하거나 학습하지 않고 온도를 변경했습니다. 그러나 오늘날의 AI 에이전트는 LLM을 사용하여 데이터에서 학습하고, 새로운 정보에 따라 행동을 변경하며, 인간처럼 추론하여 다양한 문제를 해결합니다. 

하지만 이는 훨씬 더 큰 우려의 일부에 불과합니다. 사람들은 에이전트를 프롬프트하여 작업을 처리하도록 요청할 수 있으며, 에이전트는 이를 더 작은 활동으로 분해하고 각각을 개별적으로 처리한 다음 결과를 평가합니다. 더 나아가, 일부 에이전트는 복잡한 작업을 처리하기 위해 파트너십을 맺을 수 있으며, 하나는 작업을 수행하는 동안 다른 하나는 결과를 확인하여 결과를 개선합니다. 

이러한 성장은 기업이 운영을 자동화하고 인간 팀이 사용했을 시간을 줄이는 데 도움이 되지만, 동시에 위협이기도 합니다. 이러한 에이전트들이 스스로 더 많은 결정을 내릴수록 우리가 그들의 행동을 완전히 이해, 예측 또는 통제하는 것이 더 어려워지기 때문입니다. 마찬가지로, 이러한 AI 에이전트들은 인간의 입력을 기다리지 않고 행동하므로 실수의 결과도 기하급수적으로 커질 수 있습니다. 

기업들, 부서 전반에 걸쳐 AI 에이전트를 신중하게 채택

영국의 많은 기업들이 일상 운영에서 AI 에이전트를 사용하고 있으며, 고객 서비스, 인사(HR), 마케팅과 같은 부서가 도구를 천천히 테스트하고 날카롭게 모니터링하고 있습니다.

좋은 비즈니스 사례는 펫츠 앳 홈(Pets at Home)으로, 수의사 직원들을 위해 빠른 답변과 지원 제공을 위한 AI 에이전트를 구축하여 실제 업무에서 작은 역할에 AI 에이전트가 얼마나 유용한지를 보여주었습니다. 

현재 대부분의 에이전트형 AI 시스템은 인간을 완전히 대체할 준비가 되지 않았으므로 사람들이 그들을 안내하고, 작업을 확인하며, 오류를 수정해야 합니다. 그러나 미래에는 기업들이 AI 에이전트를 시스템에 통합하면서도 통제를 유지할 수 있도록 어려운 결정을 내려야 할 수도 있습니다.