영국 선거 감시 기구, AI 기반 딥페이크에 대한 무력감 경고

영국 선거관리기구는 '딥페이크' 콘텐츠에 효과적으로 대응할 수 없다는 점을 지적하며, 다가오는 선거에서 인공지능으로 제작된 가짜 정치인 영상이 영국에 악영향을 미칠 수 있다고 경고했습니다.

영국 선거관리기구가 '딥페이크' 콘텐츠의 확산이라는 위협에 대처할 권한이 부족하다는 점을 드러내며 심각한 경고를 발표했습니다. 이러한 불안한 사실은 인공지능으로 제작된 가짜 영상을 이용해 선거 과정을 조작할 가능성에 대한 국가의 취약성을 보여줍니다.

인공지능 전문가들은 영국에서 곧 있을 총선이 인공지능이 생성한 '딥페이크' 영상과 음성 자료에 의해 좌우될 수 있다고 경고했습니다. 이러한 기술은 민주주의 절차의 공정성에 심각한 위협이 될 수 있습니다.

최근 딥페이크dent

최근 몇 달 동안, 특히 노동당 소속 정치인들을 겨냥한 정교한 AI 기반 딥페이크 콘텐츠가 눈에 띄게 증가했습니다. 10월 초, 한 트위터 계정(Twitter/X)은 노동당 대표인 키어 스타머 경이 당 직원들을 비하하는 발언을 하는 것처럼 보이는 음성 파일을 게시했습니다. 이어서 런던 노동당 시장인 사디크 칸이 추모 행사에 대해 무례한 태도를 보이는 것처럼 조작된 딥페이크 음성 클립이 공개되기도 했습니다.

정치인을 소재로 한 딥페이크 영상 및 음성 파일의 법적 지위는 여전히 불확실합니다. 온라인 안전법의 새로운 악의적 통신 행위에 해당될 가능성이 있지만, 당국은 이러한 콘텐츠에 대응하는 데 어려움을 겪고 있습니다. 특히, 런던 경찰청은 사디크 칸 딥페이크 사건에 대해 형사 범죄에 해당하지 않는다는 이유로 수사를 종결했습니다

인공지능이 생성한 바이러스성 허위 정보 확산에 대한 우려

전문가들은 인공지능(AI)으로 제작된 정치인들의 가짜 영상이 차기 선거를 앞두고 빠르게 확산될 수 있다는 우려를 표명하고 있습니다. 공인들이 스캔들을 일으킬 만한 발언이나 행동을 하는 것처럼 보이게 하는 그럴듯한 가짜 영상을 손쉽게, 그리고 저렴하게 제작할 수 있게 되면서 이러한 선거 개입이 점점 더 용이해지고 있습니다. 많은 전문가들은 적대적인 국가 행위자들이 이러한 신기술을 악용하여 영국 선거에 영향을 미치고 민주주의 과정을 교란할 수 있다고 예측합니다.

2023년 11월부터 선거 운동 자료에는 특정 정치 콘텐츠의 온라인 게시자를 표시하는 "출처 정보"를 의무적으로 포함해야 합니다. 그러나 해당 콘텐츠가 인공지능(AI)으로 생성된 것인지 여부를 공개할 의무는 없으며, 선거관리위원회는 허위 정보를 제재하거나 삭제할 권한이 없습니다. 방송통신규제기관인 오프컴(Ofcom)은 이 분야에서 더 많은 규제 권한을 가지고 있지만, AI로 생성된 정치적 허위 정보 및 딥페이크에 대한 법적 틀은 여전히 ​​모호합니다.

선거관리위원회의 제한된 권한

선거관리위원회는 딥페이크 및 선거운동 자료 콘텐츠 문제에 대한 자신들의 역할을 명확히 하면서, 주된 책임은 정당 및 선거운동원 자금 규제와 디지털 저작권 표시 의무 준수 감독에 있다고 밝혔습니다. 위원회는 인공지능(AI)으로 생성된 콘텐츠가 제기하는 문제점을 인지하고 있지만, 딥페이크 관련 문제를 직접적으로 해결할 권한은 없다고 강조했습니다.

위원회는 인공지능 기술이 선거에 미치는 기회와 과제를 더 잘 이해하기 위해 파트너 및 기타 규제 기관과 적극적으로 협력하고 있습니다. 또한 유권자들이 온라인 정보를 비판적으로 평가하도록 권장하고 가짜 뉴스를 식별dent에 대한 지침을 제공하며 관련 규제 기관에 우려 사항을 전달하도록 안내합니다.

규제 권한 강화 요구

현행 규정의 한계를 인식한 선거관리위원회는 영국 정부가 위원회 자체를 포함한 영국 규제 기관의 권한을 강화할 것을 촉구하고 있습니다. 특히, 위원회는 소셜 미디어 플랫폼, 기술 기업, 온라인 결제 서비스 제공업체로부터 정보를 확보할 수 있는 더 큰 권한을 요구하고 있습니다. 이러한 조치는 정치적 허위 정보 유포 캠페인의 자금 출처를dent문제의 핵심적인 부분을 해결하는 데 목적이 있습니다.

IT 대기업들의 반응

Byline Times는 여러 IT 대기업에 연락하여 유해한 정치 딥페이크 콘텐츠에 대처하기 위한 정책과 조치에 대해 문의했습니다. 예를 들어, TikTok은 모든 정치 광고를 금지하고 있으며, 실제처럼 보이는 조작된 콘텐츠나 합성 미디어에 대해서는 명확한 공개를 요구한다고 밝혔습니다. 또한 TikTok은 허위 정보에 대해서도 엄격한 정책을 시행하고 있습니다.

구글/알파벳은 허위 정보 퇴치를 위한 지속적인 노력과 AI 생성 콘텐츠를 표시하는 워터마킹 기술 실험을 강조했습니다. 구글은 AI 생성 이미지에 눈에 띄지 않는 디지털 워터마크를 삽입하여 이미지의 진위 여부를 확인할 수 있는 도구인 SynthID를 발표했습니다.

구글은 합성 음성 탐지 기술이 거의 99%의 정확도로 발전했다고 강조하며 정치 콘텐츠 정책 업데이트 계획을 발표했습니다. 이번 업데이트에 따라 검증된 선거 광고주는 이미지, 동영상, 오디오를 포함한 광고에 합성 콘텐츠가 포함되어 있음을 명확하게 표시해야 합니다.

구글 소유의 유튜브는 시청자를 오도하고 심각한 위해를 초래할 위험이 있는 "기술적으로 조작된 콘텐츠"에 대해 엄격한 정책을 시행하고 있습니다. 또한 유튜브는 크리에이터가 현실처럼 보이는 수정 또는 합성 콘텐츠를 제작할 경우 이를 공개하도록 요구할 예정입니다.

인공지능이 생성한 허위 정보의 문제점과 위험성

인공지능으로 제작된 딥페이크 콘텐츠의 주요 위험은 실제로 일어나지 않은 사건이나 인물이 하지 않은 말과 행동을 하는 것처럼 보이게 하는 그럴듯한 영상을 만들어내는 것입니다. 이러한 위험은 특히 선거 운동 기간 동안 여론이 이러한 허위 콘텐츠에 의해 좌우될 수 있다는 점에서 매우 민감하게 다가옵니다.

메타/페이스북과 트위터의 답변

메타/페이스북은 정치적 딥페이크 문제 해결을 위한 정책 및 조치에 대한 문의에 답변을 제공하지 않았습니다. 트위터/X는 자동 응답을 보냈으며, 해당 문제에 대한 입장이나 조치에 대한 자세한 내용은 제시하지 않았습니다.

인공지능으로 생성된 딥페이크 영상이 영국의 민주주의 과정에 위협을 가하는 가운데, 영국은 이러한 허위 콘텐츠의 확산을 효과적으로 규제하고 퇴치하는 데 중대한 과제에 직면해 있습니다. 거대 기술 기업들이 딥페이크 대응책 마련에 적극적으로 참여하는 것은 선거의 공정성과 민주적 담론을 보호하기 위해 이 문제를 시급히 해결해야 함을 보여줍니다.