영국에서 개최될 AI 안전 서밋을 앞두고 최근 발표된 한 연구는 영국 IT 전문가들이 생성형 인공지능(AI) 애플리케이션 도입에 대해 상당한 우려를 갖고 있음을 보여주었습니다. 2023년 9월 오라일리(O'Reilly)가 실시한 이 연구에 따르면, 영국 IT 전문가의 무려 93%가 소속 조직의 생성형 AI 도입 계획에 대해 불안감을 표명했습니다.
훈련 부족이 가장 큰 우려 사항입니다.
IT 전문가들 사이에서 가장 큰 우려는 경영진의 이해 부족과 교육 미흡으로, 28%가 이를 주요 문제로 꼽았습니다. 이는 최고 경영진이 생성형 AI 구현을 효과적으로 감독할 준비가 되어 있는지에 대한 의문을 제기합니다.
위험 평가 및 운영 이해
이 연구는 또한 IT 전문가의 23%가 포괄적인 위험 평가의 부재에 대해 우려를 표명했으며, 22%는 생성형 AI의 운영 측면에 대한 이해 부족을 걱정하는 것으로 나타났다는 점을 강조합니다. 이러한 우려는 조직이 관련 위험과 운영상의 복잡성을 충분히 이해하지 못한 채 AI 프로젝트에 뛰어들 수 있음을 시사합니다.
영국 정부의 인공지능 관련 야망
영국 정부는 다가오는 글로벌 AI 안전 정상회의를 통해 AI에 유리한 규제 환경을 조성하고자 하지만, 이번 연구에 따르면 IT 전문가의 25%는 진화하는 AI 규정을 준수할 수 있는 조직의 현재 역량에 대해 확신이 부족한 것으로 나타났습니다.
확신 수준은 다양합니다.
반면, IT 전문가의 51%는 소속 조직이 변화하는 규제 환경에 발맞춰 나갈 수 있는 역량을 갖추고 있다고 '어느 정도' 확신dent 답했습니다. 이러한 다양한 확신 수준은 인공지능 규제에 대한 더욱 강력하고 통일된 접근 방식의 필요성을 강조합니다.
일루미오의 핵심 인프라 담당 이사인 트레버 디어링은 즉각적인 조치의 필요성을 강조하며, "인공지능으로부터 국가를 보호하는 데 진지하다면, 제로 트러스트와 같은 보안 전략의 의무화를 추진하는 미국의 전략을 따라야 한다"고 말했습니다. 디어링은 이러한 전략을 채택하면 인공지능 공격의 잠재적 영향을 줄이는 데 도움이 될 수 있다고 제안했습니다.
우리는 인공지능에 대비하고 있을까요?
오라일리 보고서는 영국이 인공지능(AI) 분야를 선도하려는 열망과 IT 전문가들의 실제 역량 및 준비 상태 사이에 잠재적인 격차가 있음을 강조합니다. IT 팀의 약 71%는 이러한 디지털 기술 격차가 영국 정부의 글로벌 AI 리더 도약이라는 목표를 저해할 수 있다고 생각합니다.
생성형 AI에 대한 상당한 투자에도 불구하고, 직장 정책 및 직원 교육은 이러한 변화에 발맞춰 발전하지 못하고 있다는 점이 연구 결과에서 드러났습니다. 특히 IT 부서 이외의 직원들은 생성형 AI가 직장에 미치는 영향에 대한 교육을 제한적으로(32%) 받았거나 전혀 받지 못한(36%) 것으로 나타났습니다.
직원 교육에 대한 우려
IT 전문가의 27%는 직원 교육 부족을 심각한 문제로 지적했으며, 이는 이러한 기술로 인한 고도화된 사이버 보안 위협에 대한 우려와 유사한 수준입니다. 보고서는 이러한 지식 격차를 해소하기 위해 포괄적인 교육 프로그램을 시행해야 한다고 제안합니다.
기업의 AI 정책 부재
오라일리 연구에 따르면 IT 전문가의 41%가 생성형 AI 기술 사용에 대한 회사 정책이 없다고 답했으며, 추가로 11%는 소속 조직의 정책 현황을 확신하지 못하는 것으로 나타났습니다.
공식적인 정책의 부재
최근 ISACA가 디지털 신뢰 전문가 2,300명을 대상으로 실시한 연구에 따르면, 인공지능 기술 사용에 관한 공식적이고 포괄적인 정책을 보유한 조직은 10%에 불과한 것으로 나타났습니다. 이러한 정책 부재는 데이터 보안 및 조직 내 인공지능의 윤리적 사용에 대한 의문을 제기합니다.
역량 강화에 대한 수요
이러한 문제에 대응하여 IT 전문가의 82%는 생성형 AI 관련 학습 및 개발 기회를 더 많이 원한다고 답했습니다. 특히, 61%는 소속 기관에서 생성형 AI 관련 역량 강화 기회를 제공하지 않을 경우 내년에 이직을 고려하고 있다고 밝혔습니다.
ISACA Generative AI 2023 설문조사에 참여한 응답자 중 70%는 AI가 자신의 직업에 긍정적인 영향을 미칠 것이라고 생각하는 반면, 놀랍게도 81%는 직업을 유지하거나 경력을 발전시키기 위해 추가 교육이 필요하다고 답했습니다. 이는 급변하는 AI 환경 속에서 지속적인 학습의 중요성을 강조합니다.
행동 촉구
오라일리(O'Reilly)의 유럽, 중동 및 아프리카(EMEA) 부사장인 알렉시아 페더슨은 생성형 AI에 투자하고 직원들에게 적절한 교육을 제공하는 동시에 강력한 직장 정책을 시행하는 것이 중요하다고 강조합니다. 그녀는 "이는 심화되는 기술 격차에 직면하여 인재 채용 및 유지율을 높이는 전략일 뿐만 아니라, 영국이 세계적인 목표를 달성하고자 한다면 윤리적이고 안전한 AI 도입을 보장하기 위한 필수적인 단계입니다."라고 말합니다.
영국이 생성형 인공지능(AI)이라는 복잡한 영역을 헤쳐나가고자 하는 가운데, 민간 부문과 정부 모두 AI의 잠재력을 최대한 활용하는 동시에 위험성을 예방하기 위해 경영진 교육, 규정 준수, 인력 교육 및 정책 개발과 관련된 문제들을 해결해야 할 필요성이 분명해졌습니다. 다가오는 AI 안전 서밋은 이러한 과제들에 대한 통합적인 접근 방식을 개발하고 협력할 수 있는 중요한 기회를 제공합니다.
