위협 벗기기: UN 보고서, AI 딥페이크에 대해 '중대하고 시급한' 우려 제기

최근 발표된 보고서에서 유엔(UN)은 특히 소셜 미디어 플랫폼에서 정보 무결성에 상당한 위협을 가하는 인공 지능 생성 딥페이크의 확산을 해결하기 위한 시급한 필요성을 강조했습니다. UN은 AI 커뮤니티의 이해관계자들이 즉각적인 조치를 취하고 책임 있는 AI 사용에 대한 자발적 가이드라인을 개발할 것을 촉구했습니다. 

또한, 이 보고서는 2024년 9월 다가오는 미래 정상 회의(Summit of the Future)에서 논의될 디지털 플랫폼을 위한 UN 정보 무결성 행동 강령의 생성을 위한 기초 역할을 할 것입니다. 생성형 AI의 영향에 대한 우려가 커짐에 따라, 전 영국 총리 토니 블레어와 보수당 정치인 윌리엄 헤이그와 같은 글로벌 리더들은 AI 기술이 제기하는 도전에 대응하기 위한 새로운 UN 프레임워크를 주장하고 있습니다.

UN 보고서, 딥페이크를 정보 무결성에 대한 증가하는 위협으로 식별

최근 발표된 UN 보고서는 딥페이크와 관련된 상당한 위험과 온라인으로 허위 정보를 확산할 잠재력을 강조합니다. 생성형 AI 기술의 빠른 발전이 문제를 악화시켜 사용자가 진위와 조작된 콘텐츠를 구분하는 것이 점점 더 어려워지고 있다고 강조합니다. 사실이나 혐오 발언을 설득력 있게 사실인 것처럼 제시하는 AI 생성 미디어인 딥페이크는 특히 우려스러운 관심사로 부상했습니다. 

보고서는 최근 펜타곤 근처에서 폭발이 발생한 AI 생성 이미지와 조작된 뉴스 보고서가 주식 시장에 일시적인 영향을 미쳐 S&P 500의 일시적인 하락을 초래한 사건을 인용합니다. 이 예시는 딥페이크가 금융 시장과 공공 신뢰를 교란할 잠재력을 보여줍니다.

AI의 책임 있는 사용과 자발적 가이드라인에 대한 긴급 호소

UN 보고서는 AI 이해관계자들이 AI 기술이 촉진하는 허위 정보의 확산 증가에 대응할 것을 촉구합니다. 이는 즉각적인 조치와 AI의 책임 있는 사용의 필요성을 강조하며, 실리콘 밸리의 '빠르게 이동하고 물건을 부수자(move fast and break things)' 마인드셋에서 벗어나도록 촉구합니다. 안토니우 구테흐스 UN 사무총장은 이러한 우려를 공명하며, 생성형 AI를 둘러싼 경보음이 '귀를 찌를 정도로 시끄럽다(deafening)'고 묘사합니다. 구테흐스 사무총장은 개발자 themselves가 이러한 우려를 제기하고 있다고 강조합니다.

이 기술과 관련된 위험을 해결하기 위한 긴급성을 강조합니다. AI 생성 미디어가 제기하는 위협에 대응하기 위해 UN은 디지털 플랫폼에서 정보 무결성을 보장하기 위해 딥페이크의 사용과 확산을 규제하기 위한 자발적 가이드라인 개발을 제안합니다.

토니 블레어와 윌리엄 헤이그, AI 안전 장치에 대한 새로운 UN 프레임워크 옹호

전 영국 총리 토니 블레어와 보수당 정치인 윌리엄 헤이그는 AI 기술이 제기하는 정책 도전에 대응하기 위한 새로운 UN 프레임워크의 필요성을 강조하는 공동 보고서를 발표했습니다. 그들은 예측 불가능한 발전과 증가하는 AI의 힘으로 인해 이것이 지금까지 가장 중요한 정책 도전 중 하나라고 주장합니다. 블레어와 헤이그는 영국, 미국 및 기타 동맹국 정부들이 이 프레임워크 수립을 주도할 것을 옹호합니다. 

기존 접근 방식과 채널이 AI 기술과 관련된 복잡성과 위험을 처리하는 데 부적절하다고 그들은 주장합니다. 국제 협력을 참여하고 통합된 접근 방식을 채택함으로써 국제 사회는 잠재적인 해를 능동적으로 완화하고 AI의 혜택을 활용할 수 있습니다.

결론

유엔은 소셜 미디어 영역에서 정보 무결성에 대한 중대한 우려 사항으로 AI 생성 딥페이크의 증가하는 위협을 식별했습니다. 유엔은 AI 기술이 촉진하는 허위 정보와 혐오 발언의 확산을 해결하기 위한 긴급 조치를 촉구합니다. 디지털 플랫폼을 위한 정보 무결성에 대한 자발적 가이드라인과 유엔 행동 강령의 개발은 책임감 있는 AI 사용을 보장하기 위한 필수적인 단계입니다.