AI 급증 속에서 영국, 딥페이크 탐지를 위해 마이크로소프트와 협력

온라인에서 AI 생성 사기의 규모에 대한 우려가 커짐에 따라 영국은 마이크로소프트, 학계 및 기술 전문가와 협력하여 딥페이크 탐지 시스템을 구축할 계획을 발표했습니다.

이 이니셔티브는 딥페이크, AI, 영국, 마이크로소프트 및 탐지 시스템을 중심으로 점점 더 현실적이고 발견하기 어려워지는 유해 콘텐츠를 억제하기 위한 새로운 추진의 중심에 놓았습니다.

영국은 사기 및 동의 없는 이미지 표적

정부에 따르면, 이 파트너십은 변경된 오디오, 비디오 및 이미지 파일에 대한 회로 탐지 장치를 평가하기 위한 공유 표준 세트를 생성할 딥페이크 탐지 평가 프레임워크를 개발할 것입니다.

또한 이러한 유형의 탐지 장치를 실제 사용 사례(사기 및 사칭) 및 아동 성 착취 이미지나 비디오와 대조하여 벤치마킹하는 것도 포함됩니다.

기술 장관 리즈 켄달은 이 위험이 이론적으로만 존재하는 것이 아니라고 경고했습니다.

“범죄자들은 대중을 기만하고, 여성과 소녀들을 착취하며, 우리가 보고 듣는 것의 신뢰성을 떨어뜨리기 위해 딥페이크를 사용하고 있습니다. 그리고 우리는 시민과 민주적 기관을 조작으로부터 보호하기 위한 조치를 취할 때까지 이러한 행위는 계속될 것입니다.”

Kendall

미디어 변조는 수십 년간 존재해 왔습니다. 그러나 전문가들은 AI의 발전으로 인해 고품질 위조물을 제작하는 데 필요한 자금과 기술이 그 어느 때보다 접근하기 쉬워졌다고 말합니다.

영국에서는 AI로 생성된 가짜 이미지의 급증으로 인해 동의 없이 친밀한 이미지를 생성하는 범죄 행위에 대한 관심이 높아지고 있습니다.

정부 데이터에 따르면 2025년에는 800만 장의 가짜 이미지가 딥페이크로 생성된 반면, 2023년에는 50만 장에 불과했습니다. 이는 사람들이 이러한 유형의 이미지를 얼마나 빠르게 생성하고 있는지 보여줍니다.

이 프레임워크는 법 집행 기관이 이 범죄를 감지, 예방 및 기소할 수 있도록 하고 산업계에 안전 규제와 관련된 명확한 기대치를 제공하기 위해 마련되었습니다.

이것은 정부들이 수행하도록 촉구해 온 조치이며, 마이크로소프트는 2024년 의회에 AI 생성 딥페이크를 대상으로 하는 새로운 입법 통과를 촉구했습니다. 마이크로소프트 부회장 겸 사장인 브래드 스미스는 입법자들이 딥페이크 기술의 증가하는 위협에 대응할 긴급성을 강조했습니다.

그의 블로그 글에서 스미스는 딥페이크 사기를 해결하고 악용을 방지하기 위해 법을 적응시키는 중요성을 강조했습니다. 스미트에 따르면, 딥페이크 사기와 사기를 기소하는 데 사용할 수 있는 법령이 있어야 합니다.

Microsoft의 보고서에 따르면 딥페이크 기술의 오용을 방지하기 위해 여러 가지 법적 개입이 가능합니다. 하나의 제안은 연방 '딥페이크 사기 법안'을 만드는 것입니다.

규제를 통한 플랫폼 압박

전 세계적으로 규제 기관들은 AI 기술의 빠른 발전에 따라잡기 어려워하고 있습니다.

영국에서 통신 규제 기관('Communications Regulator')과 프라이버시 규제 기관('Privacy Regulator') 모두 엘론 머스크가 운영하는 Grok 챗봇이 동의 없이 생성된 아동의 성적으로 표현된 이미지를 생성했다는 이유로 조사를 시작했습니다.

이 조사의 일환으로 두 규제 기관은 법 집행 기관과 규제 기관이 법 집행 및 규제 기관이 사용하는 감지 도구를 평가하는 방법에 대한 일관된 기준을 설정하는 데 도움을 줄 새로운 프레임워크를 개발하기 위해 협력할 예정입니다.

Kendall에 따르면 이 새로운 프레임워크의 목적은