영국은 인공지능으로 생성된 온라인상의 허위 정보 확산 규모에 대한 우려가 커짐에 따라 마이크로소프트, 학계 및 기술 전문가들과 협력하여 딥페이크 탐지 시스템을 구축할 계획을 발표했습니다.
이 계획은 딥페이크, 인공지능, 영국, 마이크로소프트, 그리고 탐지 시스템을 중심으로 점점 더 현실적으로 변하고 식별하기 어려워지는 유해 콘텐츠를 억제하기 위한 새로운 노력을 기울이고 있습니다.
영국은 사기 및 비동의 이미지에 대한 단속을 강화하고 있습니다
정부에 따르면, 이번 협력을 통해 딥페이크 탐지 평가 프레임워크가 , 이를 통해 변조된 오디오, 비디오 및 이미지 파일을 탐지하는 회로 장치를 평가하기 위한 공통 표준 세트가 만들어질 것입니다.
또한 이러한 탐지 장치의 성능을 실제 사용 사례(사기 및 사칭)와 아동 성 착취 이미지 또는 비디오를 기준으로 평가하는 기준을 제공합니다.
리즈 켄달 기술부 장관은 이러한 위험이 이론상으로만 존재하는 것이 아니라고 경고했습니다.
"딥페이크는 범죄자들이 대중을 속이고, 여성과 소녀들을 이용하며, 우리가 보고 듣는 정보의 신뢰도를 떨어뜨리는 데 사용되고 있습니다. 그리고 시민과 민주주의 제도를 조작으로부터 보호하기 위한 조치를 취하지 않는 한 이러한 행태는 계속될 것입니다."
켄달
위조품을 제작하는 데 필요한 자금과 기술을 이전보다 훨씬 쉽게 확보할 수 있게 되었다고 말합니다.
영국에서는 인공지능(AI)을 이용한 가짜 이미지 생성 급증으로 인해 동의 없이 은밀한 이미지를 제작하는 범죄 행위에 대한 관심이 높아지고 있습니다.
정부 자료에 따르면 2023년 50만 건에 불과했던 딥페이크 이미지가 2025년에는 800만 건으로 급증할 것으로 예상됩니다. 이는 사람들이 이러한 유형의 이미지를 얼마나 빠르게 만들어내는지를 보여줍니다.
이 프레임워크는 법 집행 기관이 이러한 범죄를 탐지, 예방 및 기소할 수 있도록 하고, 업계에 안전 규정에 관한 명확한 기대치를 제공하기 위해 만들어졌습니다.
이는 각국 정부가 촉구받아온 조치이며, 마이크로소프트는 2024년 의회에 AI 기반 딥페이크를 . 마이크로소프트의 브래드 스미스 부회장 겸 사장 dent 딥페이크 기술의 증가하는 위협에 대해 의원들이 시급히 대처해야 한다고 강조했습니다.
블로그 게시글 에서 딥페이크 사기를 해결하고 악용을 방지하기 위해 법률을 개정하는 것이 중요하다고 강조했습니다. 스미스에 따르면, 딥페이크를 이용한 사기 및 부정행위를 처벌할 수 있는 법률이 제정되어야 합니다.
마이크로소프트 보고서에 따르면 딥페이크 기술의 오용을 막기 위해 여러 가지 법적 조치를 취할 수 있습니다. 그중 하나는 연방 차원의 '딥페이크 사기 방지법'을 제정하는 것입니다
규제를 통해 플랫폼에 압력을 가하다
전 세계 규제 당국은 인공지능 기술의 급속한 발전에 발맞추는 데 어려움을 겪고 있습니다.
영국에서는 통신 규제 기관(이하 "통신 규제 기관")과 개인정보 보호 규제 기관(이하 "개인정보 보호 규제 기관") 모두 챗봇 '그록(Grok)'에 대한 조사를 시작했습니다. 이 챗봇이 아동의 동의 없이 성적으로 왜곡된 이미지를 생성했기 때문입니다.
이번 조사 과정에서 두 규제 기관은 법 집행 기관과 규제 기관이 사용하는 탐지 도구를 평가하는 일관된 기준을 수립하는 데 도움이 되는 새로운 프레임워크를 개발하기 위해 협력할 것입니다.
켄달에 따르면, 이 새로운 프레임워크의 목적은 "사람들이 온라인에서 보고 듣는 것에 대한 신뢰를 회복하는 것을 촉진"하고, 모든 기술 제공업체가 인공지능 기술의 가속화되는 사용과 관련된 잠재적 피해를 완화할 책임을 지도록 요구하는 것입니다.
