전 세계 조직들이 생성형 AI 애플리케이션 금지 검토, 블랙베리 리서치

사이버 보안 솔루션 분야의 저명한 리더인 블랙베리 리미티드(BlackBerry Limited)가 최근 실시한 연구에 따르면, 전 세계 조직의 압도적인 75%가 직장 환경에서 널리 사용되는 ChatGPT를 포함한 생성형 AI 애플리케이션에 대한 금지 조치를 시행 중이거나 검토 중인 것으로 나타났습니다. 이 연구는 기업 환경에서 이러한 AI 기술의 확산과 관련된 잠재적 이점과 시급한 우려 사항 사이의 복잡한 균형을 드러냅니다.

“생성형 AI”로 알려진 인공지능의 한 분야는 새로롭고 독창적인 콘텐츠를 생성할 수 있는 모델과 알고리즘 개발에 중점을 둡니다. 생성형 AI 알고리즘은 확률적 접근 방식을 적용하여 원래 데이터를 모방하는 새로운 인스턴스를 생성하며, 일반적으로 명시적으로 설계된 것을 넘어 창의적이고 독창적인 행동을 보여줄 수 있는 능력을 갖추고 있습니다. 다음은 생성형 AI 도구와 관련된 몇 가지 심각한 문제입니다.

증가하는 우려가 금지 조치 검토를 주도

이미 금지 조치를 시행했거나 이를 검토 중인 조사 대상 조직의 놀라운 61%가 이러한 조치를 장기적 또는 영구적으로 유지할 의사가 있다고 밝혔습니다. 이 결정의 동기는 데이터 보안, 개인 정보 보호, 조직의 전반적인 평판과 관련된 다각적인 우려에서 비롯됩니다. 사이버 공격이 점점 더 정교해지면서 위협 환경이 확대됨에 따라, 응답자의 83%가 보안되지 않은 생성형 AI 애플리케이션이 내포하는 사이버 보안 취약성에 대한 우려를 표명했습니다.

잠재적 이점과 보안 위험의 균형

제한적 조치에 대한 우세한 경향에도 불구하고, 대부분의 참가자들이 생성형 AI 애플리케이션이 직장 환경의 다양한 측면을 강화할 수 있는 상당한 잠재력을 인정했다는 점은 주목할 만합니다. 구체적으로, 응답자의 55%가 이러한 도구가 효율성을 향상시킬 수 있는 능력을 인정했으며, 52%는 혁신을 주도할 수 있다고 믿었고, 51%는 직원들의 창의성을 육성할 수 있다고 생각했습니다.

생성형 AI와 사이버 보안

흥미롭게도, 응답자의 다수(81%)가 사이버 보안 방어력을 강화하기 위해 생성형 AI 애플리케이션을 사용하는 것에 대해 호의적인 입장을 보였습니다. 이는 중요한 역설을 보여줍니다. 즉, 조직들은 이러한 AI 기술의 보안 위험에 대해 우려를 나타내는 동시에, 강력한 사이버 보안 도구로 활용될 수 있는 잠재력을 동시에 인정합니다. 이러한 감정은 진화하는 위협에 맞서 사이버 범죄자를 저지하고 경계를 유지하려는 IT 의사 결정자들의 공통된 결의를 강조합니다.

신중하면서도 적응적인 접근

블랙베리의 사이버 보안 최고 기술 책임자(CTO)인 Shishir Singh는 조직들이 직장 환경에 생성형 AI 애플리케이션을 통합할 때 세심하고 적응적인 접근 방식을 채택할 필요성을 강조했습니다. 그는 전면적인 금지가 우연히 잠재적인 비즈니스 혜택을 stifling(억제)할 수 있다고 지적했습니다. AI 사이버 보안 분야의 선두주자인 블랙베리는 엔터프라이즈급 생성형 AI 솔루션의 혁신을 선도하고 있습니다. 이 회사는 과장된 홍보보다 가치에 집중하며, 보안되지 않은 소비자 지향형 생성형 AI 도구에 대해 신중함을 유지합니다. Singh는 플랫폼의 성숙도와 규제 개발의 중요성을 강조하며, 환경이 성숙해짐에 따라 조직의 정책이 유연성을 수용하도록 진화할 수 있다고 제안했습니다. 그는 핵심은 직장 환경 내에서 애플리케이션의 가시성, 모니터링 및 관리를 위한 강력한 도구를 배포하는 데 있다고 강조했습니다.

연구 결과에 따르면, IT 의사 결정자의 80%가 조직이 비즈니스 목적으로 사용되는 애플리케이션에 대한 통제권을 행사할 권리에 동의한 반면, 74%는 그러한 금지가 기업용 및 개인 기기 사용(Bring Your Own, BYO) 기기에 대한 “과도한 통제”를 나타낸다고 간주했습니다. 이는 조직들이 보안과 개인 정보 보호 우려를 보호하면서도 직원들이 도구를 선택할 수 있는 자율성을 허용하는 사이의 미묘한 균형을 맞춰야 함을 강조합니다.

통합 엔드포인트 관리

이러한 복잡한 환경에서 통합 엔드포인트 관리(UEM)는 보안과 사용자 개인 정보 보호 사이의 조화로운 균형을 유지하려는 조직들에게 중요한 솔루션으로 부상하고 있습니다. CIO(최고 정보 책임자)와 CISO(최고 정보 보안 책임자)에게 UEM은 기업 환경에 접근할 수 있는 애플리케이션을 통제하기 위한 필요한 제어 기능을 제공합니다. 이를 통해 기업 데이터를 분리함으로써 엔터프라이즈급 보안을 보장하고 사용자 개인 정보를 보호합니다. 소비자 등급의 생성형 AI 및 기타 규제되지 않은 애플리케이션의 보편적인 보안 부재 속에서, 블랙베리 UEM이 보여주는 엔터프라이즈급 UEM 솔루션의 중요성은 조직이 위험을 효과적으로 완화하기 위해 필수적입니다.

블랙베리가 실시한 연구는 생성형 AI 애플리케이션의 잠재적 이점에 대한 매혹과 데이터 보안, 개인 정보 보호, 기업 평판에 대한 실질적인 우려 사이의 복잡한 상호 작용을 강조합니다. 전 세계 조직들은 혁신의 매혹과 고조되는 사이버 보안 위협의 배경 사이에서 갈림길에 서 있습니다. 환경이 진화하고 규제가 성숙해짐에 따라 통제, 혁신, 개인 정보 보호의 균형은 현대 기업의 중추적인 과제로 부상할 것입니다.