생성형 AI, Q2 2023 상위 5대 신흥 위험 중 하나로 선정

오픈AI의 ChatGPT와 구글의 Bard와 같은 주요 모델을 포함한 생성형 인공지능(AI)은 최근 가트너(Gartner, Inc.)의 연구에 따르면 2023년 2분기 기업 리스크 우려 사항의 최전선으로 부상했습니다.

설문 조사 인사이트

2023년 5월 실시된 포괄적인 설문 조사에서 가트너는 249명의 고위 기업 리스크 임원들에게 연락하여 20가지 임박한 리스크에 대한 벤치마킹된 관점을 제공하고자 했습니다. 상세한 분석인 분기별 신흥 리스크 보고서는 이러한 리스크와 관련된 잠재적 영향, 타임라인, 주의 수준 및 인지된 기회를 조명합니다.

생성형 AI의 대량 보급은 두 번째로 자주 인용된 리스크로 식별되었습니다. 한편, 2023년 2분기 설문 조사에서 제3자 생존 가능성은 주의 깊게 지켜봐야 할 빠르게 부상하는 리스크로 1위를 차지했습니다. 재무 계획 불확실성과 클라우드 집중 리스크가 그 뒤를 이었으며, 중국 무역 긴장이 상위 5위를 채웠습니다. 이러한 리스크들은 현재의 거시경제, 지정학적 변동성 및 기술 관련 우려가 혼합된 것입니다.

가트너 리스크 및 감사 실무부의 연구 책임자인 란 쉬(Ran Xu)는 생성형 AI가 상위 10위 중 2위를 차지하며 갑자기 등장한 것이 생성형 AI 도구에 대한 대중의 인식과 채택이 급속히 증가하는 것을 반영한다고 생각합니다. 이는 또한 광범위한 잠재적 응용 분야와 그에 따른 리스크를 강조합니다.

생성형 AI 리스크

가트너는 이전에 생성형 AI의 6가지 고유한 리스크와 AI 규제의 4가지 관련 영역을 지목했습니다. 기업 리스크를 효과적으로 관리하기 위해 가트너는 지적 재산권, 데이터 프라이버시, 사이버 보안이라는 세 가지 핵심 영역을 강조합니다.

지적 재산권 우려

생성형 AI 도구는 실수로 정보를 학습 데이터셋에 통합할 수 있습니다. 란 쉬는 생성형 AI 도구에 입력된 정보가 그 학습 세트의 일부가 될 수 있다고 설명했습니다. 이는 민감하거나 독점적인 데이터가 다른 사용자에게 제공되는 출력물에 실수로 나타날 수 있음을 의미합니다. 또한 이러한 도구의 출력을 사용하면 이전 사용자의 지적 재산권 권리를 unintentionally 위반할 수 있습니다. 가트너는 지적 재산권 리스크가 적절히 해결되도록 이러한 도구 사용 시 기업 리더들에게 신중함과 투명성의 중요성을 일깨우는 것이 중요하다고 강조합니다.

데이터 프라이버시 문제

생성형 AI 도구는 사전 통지 없이 제3자(예: 벤더나 서비스 제공업체)와 사용자 데이터를 모르게 공유할 수 있습니다. 이러한 조치는 수많은 지역의 프라이버시 법률을 위반할 수 있습니다. 특히 중국과 EU는 이미 규제를 시행했으며, 미국, 캐나다, 인도, 영국에서는 제안된 법률이 예정되어 있습니다.

사이버 보안 위협

생성형 AI 도구는 사이버 위협으로부터 자유롭지 않습니다. 쉬는 생성형 AI가 속임수에 의해 생성한 악성코드 및 랜섬웨어 코드와, 이러한 도구를 속여 정보를 유출하도록 만드는 '프롬프트 인젝션' 공격이 있음을 지적했습니다. 이는 정교한 피싱 공격의 대규모 실행을 가능하게 합니다.

경제 상황 및 제3자 생존 가능성

분석가들은 악화되는 경제 조건으로 인해 제3자 생존 가능성 리스크가 증폭될 가능성을 강조했습니다. 금리 조정에는 덜 민감하고 예상보다 오래 지속되는 지속적인 인플레이션은 제3자에게 비용과 마진 압박을 가중시켰습니다. 중앙은행들이 인플레이션을 퇴치하기 위해 금리를 인상함에 따라 신용 긴축 단계가 촉발되어, 상승하는 차입 비용으로 인해 공급업체가 운영 중단 또는 파산에 처할 수 있습니다.

광범위한 경기 침체는 수요의 예상치 못한 급감을 초래하여 벤더의 생존 가능성 또는 재화와 서비스를 적시에 공급하는 능력을 위협할 수 있습니다.

가트너의 전문가들은 리스크 관리자가 추적해야 할 제3자 생존 가능성의 세 가지 잠재적 결과를 제시했습니다: 필수 입력재 및 자재의 손실, 잘못된 재무 계획 가정, 외부 공급망 문제입니다.

신흥 리스크의 지형이 진화함에 따라 기업들은 특히 생성형 AI 분야에서 경계를 늦추지 않아야 합니다. 기술 발전과 경제 변동의 혼합은 리스크 관리에 대한 선제적 접근을 필요로 합니다.