생성형 AI, 기업 리더들 사이에서 우려 제기: 연구

고위 임원 90% 이상, 모니터링되지 않는 생성형 AI 도구 사용에 대해 우려 표명

사이버 보안 업체 카스퍼스키(Kaspersky)가 최근 실시한 조사에 따르면, 기업 내 규제되지 않은 생성형 인공지능(GenAI) 도구의 확산에 대해 최고경영진(C-suite)들 사이에서 우려가 커지고 있는 것으로 나타났습니다. 상위 비즈니스 리더 90%가 이러한 도구의 통제되지 않은 도입에 대해 우려를 표명했으며, 이는 생성형 AI가 다양한 비즈니스 운영에 점점 더 통합되고 있음을 시사합니다.

생성형 AI의 침투

카스퍼스키의 연구에 따르면, 조사에 응답한 고위 임원 중 과반수(53%)가 생성형 AI가 이제 조직 내 특정 사업 라인을 적극적으로 '주도'하고 있다고 믿고 있는 것으로 나타났습니다. 그러나 응답자의 59%는 적절한 감독 없이 직원들이 생성형 AI를 통합하는 '그림자 AI' 현상으로 인해 사이버 위험이 높아지는 것에 대해 깊은 우려를 표명했습니다.

흥미로운 발견 중 하나는 조사된 비즈니스 리더 중 단 22%만이 조직 내 생성형 AI 사용을 모니터링하기 위한 내부 거버넌스 정책 도입에 대해 논의한 적이 있다는 점입니다. 또한 91%가 보안 위험을 완화하기 위해 이러한 도구가 어떻게 사용되는지에 대한 더 나은 이해가 필요하다고 시인했습니다.

카스퍼스키의 수석 보안 연구원인 데이비드 엠(David Emm)은 이 문제의 시급성을 강조하며, "GenAI의 빠른 진화가 현재 진정될 기미가 보이지 않는 만큼, 이러한 애플리케이션이 통제 없이 운영되는 시간이 길어질수록 HR, 재무, 마케팅, 심지어 IT와 같은 주요 비즈니스 기능 전반에서 통제와 보안을 유지하는 것이 더 어려워질 것입니다."라고 말했습니다.

데이터 유출 우려

생성형 AI는 데이터 입력을 통한 지속적인 학습에 의존하므로 데이터 보호가 최우선 고려사항입니다. 선의로 사용되더라도 직원은 무심코 조직 외부로 민감한 데이터를 전송하여 데이터 유출을 초래할 수 있습니다. 카스퍼스키의 연구는 이러한 우려를 반영하여, 리더 59%가 데이터 유실 위험에 대해 심각한 우려를 표명하고 있음을 보여주었습니다.

이러한 우려에도 불구하고, 연구는 비즈니스 리더 50%가 반복적인 작업을 자동화하기 위해 주로 생성형 AI를 활용할 계획이라고 밝혔습니다. 또한 44%가 생성형 AI 도구를 일상 업무에 통합할 의향이 있다고 밝혔습니다. 특히 24%는 생성형 AI를 사용하여 IT 및 보안 기능을 자동화할 의향이 있다고 밝혔습니다.

엠은 이 추세에 대해 "민감한 데이터 유실과 핵심 비즈니스 단위의 통제 상실에 대한 전망이 최고경영진의 고민을 유발할 것이라고 생각할 수 있지만, 우리의 조사 결과 업계 지도자 중 거의 4분의 1이 현재 가장 중요한 기능 중 일부를 AI에 위임하는 것을 고려하고 있는 것으로 드러났습니다."라고 말했습니다.

그러나 그는 생성형 AI를 기업 환경에 더 통합하기 전에 포괄적인 데이터 관리 이해와 강력한 정책이 필요하다고 강조했습니다.

생성형 AI의 위험과 이점에 대한 논의가 주목을 받고 있습니다. 리시 수낙 영국 총리는 최근 생성형 AI와 관련된 위험에 대한 인식을 높일 것을 촉구했습니다. 이는 산업계 리더와 전문가들이 규제와 이 새로운 기술의 통합에 대해 논의할 예정인 블레츨리 파크(Bletchley Park)의 AI 안전 정상회의를 앞두고 이루어진 것입니다.

생성형 AI의 양면성

트렐릭스(Trellix)의 수석 부사장 겸 총괄 책임자인 파비엔 레흐(Fabien Rech)는 생성형 AI의 이중적인 성격을 강조하며, "생성형 AI는 양날의 검입니다. 사이버 보안 환경이 계속 진화함에 따라 생성형 AI의 확산은 혼합에 추가적인 복잡성만 더합니다."라고 말했습니다.

레흐는 조직이 생성형 AI 기술의 함의와 이를 효과적으로 활용하고 통합하는 방법에 대해 인식하는 것이 중요하다고 강조했습니다. 생성형 AI 도구는 일상적인 작업을 단순화하고 생산성을 향상시키는 이점을 제공하지만, 코드 주입, 피싱, 소셜 엔지니어링, 딥페이크 기술과 같은 악의적인 활동에서 잠재적으로 오용될 수 있다는 우려도 있습니다.

그는 조직이 사이버 위협에 대한 탄력적인 보호를 구축하기 위해 강력한 보안 조치와 적절한 기술 솔루션의 통합을 우선시할 것을 촉구했습니다.