기업, 생성형 AI 위험 증가로 인한 위협에 직면

Riskonnect가 최근 수행한 조사는 기업 환경에서 생성형 AI 통합과 관련된 상당한 위험을 강조했습니다. 과반수인 93%의 기업이 이러한 위험을 인지하고 있지만, 9%만이 이러한 looming 위험을 처리하고 완화할 준비가 되어 있다고 생각합니다.

기업들은 AI 리스크 관리 속도를 따라잡는 데 어려움을 겪고 있습니다

연구 결과에 따르면, 기업 전반에 걸쳐 AI 리스크 관리 문제를 해결하는 데 있어 우려스러운 결핍이 드러났습니다. 리스크 및 컴플라이언스 분야의 리더 중 단 17%만이 생성형 AI 기술 도입과 관련된 잠재적 위험에 대해 조직 구성원들에게 지식을 전달하고 브리핑하기 위한 공식적인 조치를 취했습니다.

Riskonnect의 최고경영자(CEO)인 짐 웨텍캠프(Jim Wetekamp)는 이 신흥 위협에 대한 대응이 늦어지는 것에 대해 우려를 표명하며, “생성형 AI는 전례 없는 속도로 발전하고 있으며 새로운 비즈니스 리스크의 물결을 불러일으키고 있습니다. 우리의 연구 결과는 느린 기업들의 대응이 조직 전체에 취약점을 만들고 있음을 보여줍니다. 생성형 AI의 등장은 현대 리스크 환경이 얼마나 빠르게 진화하는지를 보여주는 최신 사례입니다. 우리는 명확히 새로운 리스크의 시대에 진입했습니다.”라고 말했습니다.

주요 우려 사항: 데이터 프라이버시, 사이버 보안 및 기타

이 연구는 생성형 AI와 관련하여 기업들 사이에서 여러 가지 시급한 우려 사항을 강조합니다. 이 중 데이터 프라이버시와 사이버 보안 문제는 65%의 기업이 우려를 표명했습니다. 또한 응답자의 60%는 직원이 잘못된 정보를 바탕으로 결정을 내릴 가능성에 대해 우려를 나타냈으며, 55%는 잠재적인 직원 비양식 행동과 윤리적 딜레마에 대해 걱정했습니다. 지적 재산권 리스크와 저작권 침해 역시 큰 문제로 대두되어, 34%가 이를 유효한 우려 사항으로 인정했습니다.

현재 주요 리스크

생성형 AI의 중요성이 커짐에 따라 기업들은 여전히 다른 리스크 요인에 취약합니다. 조직에 영향을 미치는 상위 4대 리스크는 인재 부족과 해고, 경기 침체 리스크, 랜섬웨어, 보안 침해 및 국가 후원 사이버 공격을 포함합니다.

특히 63%의 기업이 최악의 시나리오를 시뮬레이션하지 않아 예상치 못한 리스크를 처리하고 대응할 준비가 되어 있지 않습니다. 미래의 예상치 못하고 예측 불가능한 리스크 사건에 대처할 수 있다고 느끼는 기업은 단 5%에 불과합니다.

이 연구가 또 다른 주목할 만한 문제로 지적한 것은 리스크 관리에 대한 신뢰 부족입니다. 조직 중 단 23%만이 리스크 관리 데이터의 정확성, 품질 및 적용 가능성에 대해 자신감을 가지고 있습니다. 리스크 인사이트를 추출, 통합 및 의사 결정에 활용하기 위해 소통할 수 있는 능력에 대해 강한 자신감을 가진 기업은 더욱 적어 단 5%에 불과합니다.

인재 부족과 해고와 관련하여 기업들이 직면한 과제 중 연구는 직원 번아웃으로 인한 실수 및 생략이 가장 큰 우려 사항임을 강조했으며, 66%의 기업이 이를 우려로 표명했습니다. 그 다음으로 근접한 우려는 전략적 목표 달성 불가에 대한 것으로, 이는 41%의 조직이 가지고 있는 우려 사항입니다.

신흥 리스크 대응을 위한 투자

이러한 도전 과제에도 불구하고 기업들은 신흥 리스크를 해결하기 위해 능동적인 조치를 취하고 있습니다. 주목할 만한 발견은 52%의 기업이 수석 리스크 책임자(CRO)를 임명했으며, 추가 6%가 향후 6~12개월 내에 임명할 계획이라는 것입니다. 이는 전담 리스크 관리 리더십의 중요한 역할에 대한 인식이 높아지고 있음을 반영합니다.

또한 다른 부문에서 해고가 발생하고 있음에도 불구하고, 82%의 기업이 리스크 관리 전담 인력이 지난 반년 동안 증가했거나 안정적으로 유지되었다고 확인했습니다. 또한 28%의 조직이 같은 기간 동안 리스크 관리 기술에 대한 예산 할당이 증가했다고 보고했습니다.

Riskonnect의 CEO인 짐 웨텍캠프는 이러한 긍정적인 변화에 대해 다음과 같이 언급했습니다. “우리는 기업들이 리스크를 식별, 우선순위 지정 및 관리하는 방식에서 의미 있고 긍정적인 변화가 일어나고 있음을 목격하고 있습니다. 현대의 리스크 리더들은 위협 환경이 끊임없이 진화하고 있음을 인지하고 있습니다. 그들은 최악의 시나리오를 전략적으로 계획하고, 기업 전체의 가시성을 우선시하며, 포괄적이고 상호 연결된 리스크 스펙트럼에 대응하기 위한 도구에 투자합니다.”