GenAI 사이버 보안 설문조사: 책임 있는 통합을 위한 인사이트

급변하는 기술 환경 속에서 생성형 인공지능(GenAI)은 산업 전반을 재편하고 다양한 영역에 새로운 가능성을 열어줄 혁신적인 기술로 부상했습니다. 그러나 기업들이 생성형 AI를 업무에 점점 더 많이 도입함에 따라, 사이버 보안 분야에서 이 최첨단 기술을 책임감 있고 지속 가능하게 활용하기 위해서는 윤리적 고려 사항과 규정 준수에 대한 경각심을 유지하는 것이 필수적입니다. 본 논문에서는 2023년에 실시된 11건의 GenAI 사이버 보안 설문조사 결과를 분석하여 향후 사이버 보안 전략 수립에 도움이 될 중요한 통찰을 제시합니다.

GenAI 도입 및 보안 관련 우려, 중소기업의 GenAI 도입 확대

전 세계 900명 이상의 IT 의사결정권자를 대상으로 한 설문조사에서 역설적인 추세가 드러났습니다. 무려 89%의 조직이 ChatGPT와 같은 생성형 AI 도구를 잠재적인 보안 위험으로 인식하고 있는 반면, 95%의 조직은 이미 어떤 형태로든 이러한 도구를 기업 내에서 활용하고 있는 것으로 나타났습니다. 위험 인식과 실제 사용 간의 이러한 괴리는 생성형 AI 시대에 더욱 포괄적인 사이버 보안 접근 방식이 필요함을 시사합니다.

2022년 말 오픈아이얼(OpenAI)의 GPT-3.5 시리즈 출시를 계기로 전 세계적으로 생성형 AI에 대한 투자가 급증했습니다. 기업들은 이미 AI 기술에 익숙했지만, 이번 최신 기술 도입을 위해 투자를 확대했습니다. 국제데이터기업(IDC)에 따르면, 이러한 생성형 AI 투자 급증은 기술 환경의 변화를 의미하며, 다양한 산업 분야에서 생성형 AI가 지닌 잠재력에 대한 인식이 높아지고 있음을 보여줍니다.

기술 업계 선두주자들은 이러한 변화에 발맞추기 위해 고군분투하고 있다

인공지능이 지속적으로 발전함에 따라 기업들은 엄청난 도전에 직면하고 있습니다. 전 세계 기술 리더 중 단 15%만이 생성형 인공지능의 요구에 충분히 대비하고 있다고 응답했습니다. 하비 내쉬(Harvey Nash)의 연구에 따르면, 이들 리더의 88%는 더욱 강력한tron지능 규제의 필요성을 강조했습니다. 이러한 데이터는 인공지능 혁신과 규제 통제 사이의 격차를 해소하기 위한 선제적인 조치가 필요함을 보여줍니다.

보안 우려에도 불구하고, 기업들은 생성형 AI의 잠재적 이점에 대해 높은 확신을 보이고 있습니다.dent의 82%는 생성형 AI가 경쟁 우위를 제공한다고 믿고 있습니다. 이러한 낙관론은 생성형 AI의 유망한 가능성을 보여주며, 책임감 있게 활용한다면 다양한 분야의 기업에 상당한 이점을 가져다줄 수 있음을 시사합니다.

보안 책임자들은 AI가 생성하는 위협에 대해 경계심을 갖고 있다

최근 몇 달간 이메일 공격의 양과 수법이 급증하면서 보안 책임자들의 우려가 커지고 있습니다. 이러한 추세의 배후에는 생성형 AI가 의심되고 있으며, 전문가들은 이것이 시작에 불과하다고 지적합니다. AI 기반 공격이 더욱 만연해짐에 따라 보안 전문가들은 경계를 늦추지 않고 방어 체계를 적극적으로 강화해야 합니다.

조직dent생성형 AI와 관련하여 데이터 프라이버시 및 사이버 보안 문제(65%), 부정확한 정보에 기반한 직원 의사결정(60%), 직원 오용 및 윤리적 위험(55%), 저작권 및 지적 재산권 위험(34%) 등 여러 가지 우려 사항을 제기했습니다. 이러한 우려 사항들은 생성형 AI가 제기하는 문제의 다면적인 특성과 포괄적인 위험 관리 전략의 필요성을 강조합니다.

GenAI 투자의 미래, GenAI 투자는 증가 추세에 있다

생성형 인공지능(GenAI)에 대한 투자는 놀라운 성장세를 보일 것으로 예상되며, 2027년까지 1,430억 달러에 이를 것으로 전망됩니다. GenAI 플랫폼/모델, GenAI 애플리케이션 개발 및 배포(AD&D), 애플리케이션 소프트웨어를 포함한 GenAI 소프트웨어 부문은 다양한 산업 분야에서 기술의 중요성이 커짐에 따라 급속한 성장을 경험할 것으로 예상됩니다.

조직들이 생성형 AI를 업무에 점점 더 많이 통합함에 따라 새로운 역량이 요구될 것입니다. 생성형 AI 시스템용 프롬프트 작성 및 테스트를 전문으로 하는 "프롬프트 엔지니어"와 같은 직책의 등장은 효과적인 생성형 AI 활용에 필요한 기술이 진화하고 있음을 보여줍니다. 생성형 AI의 잠재력을 최대한 활용하기 위해 조직은 핵심 직무에 맞는 맞춤형 교육 프로그램과 기술 로드맵을 개발해야 합니다.

GenAI 위험을 관리하는 데 있어서의 과제

생성형 인공지능을 둘러싼 중요한 우려 사항 중 하나는 오해의 소지가 있다는 점입니다. 생성형 인공지능은 정확하게 답변할 수 없는 질문에 직면했을 때, 이른바 "인공지능 환각"이라고 알려진 과정을 통해 임의로 답변을 만들어낼 수 있습니다. 이러한 문제는 인공지능 모델을 정교하게 다듬고 정확하고 신뢰할 수 있는 정보를 제공하도록 보장하는 것이 얼마나 중요한지를 보여줍니다.

보안 운영(SecOps) 책임자들은 데브옵스(DevOps) 책임자들보다 소프트웨어 개발 프로세스에 생성형 AI를 더 빠르게 도입하고 있습니다. SecOps 책임자의 45%가 이미 생성형 AI를 통합했으며, 상당한 시간 절약을 언급했고, 57%는 주당 최소 6시간 이상 절약했다고 ​​응답했습니다. 반면, DevOpsdent중 생성형 AI를 도입한 비율은 31%에 불과합니다. 이러한 격차는 효율성 향상과 잠재적 위험 사이의 균형에 대한 의문을 제기합니다.

IT 책임자들이 GenAI의 SaaS 보안 문제에 대해 우려를 표명하고 있습니다

ChatGPT와 같은 생성형 AI 애플리케이션의 등장으로 IT 책임자들은 이제 서비스형 소프트웨어(SaaS) 보안에 미치는 영향을 고려해야 합니다. 설문dent의 23%가 생성형 AI 애플리케이션이 가장 우려스러운 SaaS 보안 문제라고 답했습니다. 이는 조직이 생성형 AI로 인해 발생하는 진화하는 위협 환경에 맞춰 보안 전략을 조정해야 할 필요성을 강조합니다.

생성형 AI는 사이버 보안을 포함한 다양한 산업에 혁명을 일으킬 잠재력을 지니고 있습니다. 기업들은 이러한 기술의 혁신적인 잠재력에 매료되어 적극적으로 도입하고 있지만, 보안 및 윤리적 고려 사항에도 심혈을 기울여야 합니다. 이번 GenAI 사이버 보안 조사 결과는 생성형 AI가 제시하는 도전과 기회를 다시 한번 상기시켜 주며, 기업과 규제 기관 모두가 끊임없이 변화하는 디지털 환경 속에서 생성형 AI의 잠재력을 책임감 있고 지속 가능한 방식으로 활용하기 위해 협력해야 함을 강조합니다