글로벌 우려: AI 생성 허위 정보와 사이버공격이 중심 무대로 부상

세계경제포럼(WEF)이 최근 발표한 '2024 글로벌 리스크 보고서'는 인공지능(AI) 기술의 빠른 진화를 AI 생성 허위 정보와 사이버 공격이라는 두 가지 가장 중요한 글로벌 리스크의 촉매제로 식별합니다. 보고서는 '글로벌 리스크'를 전 세계 GDP, 인구 또는 천연 자원의 상당 부분에 부정적인 영향을 미칠 수 있는 사건 또는 조건으로 정의합니다.

AI 허위 정보의 중심 부상

WEF가 실시한 글로벌 리스크 인식 조사(GRPS)는 응답자들 사이에서 주목할 만한 우려를 드러냈으며, 53%가 2024년 두 번째로 중요한 글로벌 리스크로 AI 생성 허위 정보를 식별했습니다. 이제 개인들이 AI 모델을 사용하여 오해의 소지가 있는 정보를 쉽게 생성하고 확산시킬 수 있다는 점은 경고를 불러일으킵니다. 보고서는 대규모 AI 모델에 연결된 사용자 친화적인 인터페이스 덕분에 AI 생성 허위 정보가 더 이상 전문적인 기술 세트를 요구하지 않는다고 지적합니다. 이러한 접근성은 정교한 음성 클로닝과 가짜 웹사이트를 포함한 허위 정보와 합성 콘텐츠의 놀라운 확산으로 이어졌습니다.

사이버 공격은 2024년 글로벌 리스크 중 5위를 차지하며, 응답자의 39%가 이를 주요 우려 사항으로 인식하고 있습니다. WEF는 사이버 위협이 글로벌 리스크 전망에서 여전히 최전선에 있으며, 정부 및 민간 부문 응답자 모두에게 상위 3대 우려 사항 중 하나라고 강조합니다. 사이버 공격의 보편성과 심각성은 글로벌 무대에서의 지속적인 중요성을 강조합니다.

AI 모델은 허위 정보의 확산을 가능하게 합니다

WEF는 AI 모델의 등장이 허위 정보의 생성과 확산을 단순화하여 전문 기술의 필요성을 제거했다고 지적합니다. 보고서는 음성 복제부터 가짜 웹사이트에 이르기까지 모든 것을 포괄하는 이른바 ‘합성’ 콘텐츠의 증가를 강조합니다. WEF는 AI 모델이 허위 정보 유포자를 강화하여 온라인 허위 정보 및 불법 콘텐츠의 호스트와 제작자 모두를 다루는 규제 조치가 시급하다고 관찰합니다.

증가하는 리스크 대응

정부들은 AI 생성 허위 정보와 관련된 escalating 리스크에 대응하여 새로운 및 진화하는 규제를 도입하고 있습니다. 이러한 조치는 허위 정보 및 불법 콘텐츠의 제작자뿐만 아니라 호스트도 대상으로 합니다. 현재의 규제 노력 외에도 WEF는 생성형 AI에 대한 초기 규제를 예상하며, 중국의 AI 생성 콘텐츠 워터마킹 사례가 잠재적 해결책으로 제시됩니다. 그럼에도 보고서는 규제의 속도와 효용성이 AI 기술의 빠른 발전 속도를 따라잡기 어려울 것이라고 인정합니다.

디지털 격차 해소

WEF의 보고서는 기술 발전과 지정학적 역학의 수렴이 가져올 잠재적 결과에 빛을 비춥니다. 상업적 인센티브와 지정학적 필요성이 AI 및 기타 최전선 기술의 개발을 결정한다면, 선진국과 개발도상국 전반에 승자와 패자가 나타나는 디지털 격차가 발생할 수 있다고 제안합니다. 혜택과 리스크의 분배 불균형은 취약한 국가와 공동체를 디지털적으로 고립시켜 경제 생산성, 금융, 기후, 교육, 의료 및 일자리 창출에서 AI 혁신을 활용하는 능력을 저해할 수 있습니다.

미래 탐색

AI 기술이 계속 발전함에 따라, 글로벌 커뮤니티는 AI 생성 허위 정보 및 사이버 공격과 관련된 리스크를 해결할 시급한 필요성에 직면해 있습니다. WEF의 2024년 글로벌 리스크 보고서는 전 세계적으로 AI의 부정적 영향을 완화하기 위해 선제적 규제 조치와 국제적 협력의 중요성을 강조합니다. 기술 혁신과 책임 있는 거버넌스 사이의 균형을 맞추는 것이 AI 관련 리스크의 복잡한 지형을 탐색하고 국가 및 커뮤니티 전반에 혜택을 더 공정하게 분배하는 데 필수적일 것입니다.