심층 위조 영상(Deepfake), 총선 앞두고 민주주의에 점점 더 큰 위협으로 부상

이번 달 초 충격적인 사건이 발생했습니다. 노동당 당수인 키어 스터머 경이 직원 한 명에게 욕설을 퍼붓는 것으로 보이는 영상 클립이 소셜 미디어에서 viral 되었습니다. 이 클립은 100만 회 이상의 조회수를 기록하며 스터머에 대한 공격을 촉발했고, 일부는 그의 사임을 요구하는가 하면 다른 이들은 그를 “끔찍한 괴롭힘꾼”이자 차기 총리로 부상할 인물로 규정했습니다. 그러나 이 사건은 특히 불안한 것이었습니다. 왜냐하면 이는 실제 녹음이 아닌, 시청자를 기만하기 위해 설계된 AI 생성 영상인 심층 위조 영상(deepfake)이었기 때문입니다.

민주주의를 위협하는 심층 위조 영상

영국의 다음 총선이 가까워짐에 따라 전문가들은 유사한 심층 위조 영상이 등장하여 정치 환경을 교란할 가능성에 대해 점점 더 우려하고 있습니다. 정부는 심층 위조 영상이 “우리의 민주주의와 자유에 대한 심각한 위협”을 나타낸다고 인정했습니다. 의회 의원들은 이제 선거 직전이나 선거 당일 가짜 영상이 공개되는 영향력을 우려하며, 심층 위조 영상에 대응하는 것을 선거 전략의 일부로 포함시키고 있습니다.

기술 및 디지털 경제 담당 차관인 알렉스 데이비스존스는 중요한 질문을 제기합니다. “만약 이것이 선거 하루 전이나 선거 당일 공개된다면 어떻게 될까요? 그것이 어떤 영향을 미칠까요?” 이는 심층 위조 영상의 도전에 대응하는 긴급성을 강조합니다.

심층 위조 영상의 고도화

심층 위조 영상 기술은 점점 더 정교해지고 있어 실제 영상과 가짜 영상을 구분하는 것이 어려워지고 있습니다. 상원 의회와 BBC에 심층 위조 영상에 대해 자문을 제공한 AI 전문가 헨리 아저는 환경의 상당한 변화를 지적했습니다. 그는 “기대 대비 비용 비율이 완전히 다릅니다. 정치인의 가짜 이미지, 가짜 오디오, 합성 입술 동기화가 적용된 가짜 비디오는 이제 신용카드와 이메일 주소만 있으면 누구나 접근할 수 있습니다.”라고 말합니다.

심층 위조 영상의 품질이 개선됨에 따라 언론인, 정치인, 일반 대중이 가짜 콘텐츠를 빠르게 식별하기가 더 어려워지고 있습니다. 이러한 식별 지연은 허위 정보가 확산된 후에야 반박될 수 있게 만들어 정치와 미디어에 대한 신뢰를 훼손할 수 있습니다.

진실의 침식

딥페이크의 부상은 진실의 개념 자체에 상당한 위협을 가합니다. 딥페이크 영상은 개별 정치인에 대한 의심을 불러일으키고 정치 및 미디어 전반에 대한 신뢰를 훼손할 수 있습니다. 딥페이크의 품질이 향상됨에 따라 기자와 정치인들이 실수로 가짜 콘텐츠를 공유하거나 합법화하여 사실과 허구를 구분하는 작업을 더욱 복잡하게 만들 위험이 있습니다.

의회의 취약성

의회 하원에서 광범위한 연설 기록을 가진 의원들은 특히 딥페이크 공격에 높은 위험에 처해 있습니다. 그들의 방대한 오디오 및 비디오 자료는 설득력 있는 딥페이크를 만들기 위해 악의적으로 편집될 수 있습니다. 데이비스존스 여사와 같은 의원들은 이러한 취약성에 깊은 우려를 표하며, 자신들과 대중을 이러한 위협으로부터 보호할 필요성을 강조합니다.

공공의 역할

딥페이크에 맞서기 위한 공공의 역할은 매우 중요합니다. 유고브(YouGov)의 설문 조사에 따르면 응답자의 86%가 등장 인물의 명시적 동의 없이 딥페이크를 제작하는 것을 금지하는 데 찬성했습니다. 유권자들은 선거 캠페인 기간 중 유포되는 영상과 이미지를 사실 확인하고, 남용이나 허위 정보 사례를 보고해야 합니다.

양당 간의 우려

딥페이크 위협은 양당 간의 우려를 불러일으켰습니다. 보수당의 보안 담당 장관인 톰 투겐하트(Tom Tugendhat) 의원은 키어 스타머(Keir Starmer)의 딥페이크 영상을 공유하지 않도록 촉구하며, 딥페이크가 자유에 중대한 위협이 된다고 강조했습니다.

정부의 대응

정부는 딥페이크 위협을 인지하고 이를 해결하기 위해 적극적으로 노력하고 있습니다. 다양한 정부 부처가 협력하여 영국 민주주의에 대한 위협에 단호하게 대응하고 있습니다. 또한 정부는 온라인 안전법(Online Safety Bill)을 도입하여, 대형 소셜 미디어 플랫폼이 불법 콘텐츠(딥페이크 포함)를 인지할 경우 이를 삭제하도록 의무화했습니다.

딥페이크의 광범위한 영향

딥페이크는 정치 분야에 국한되지 않습니다. 포르노그래피 유포부터 로맨스 사기 강화에 이르기까지 다양한 악의적인 목적으로 사용되어 왔습니다. 접근성과 제작의 용이성으로 인해 딥페이크는 기만을 위한 다목적 도구가 되었습니다.

딥페이크 기술의 확산은 영국이 다음 총선을 앞두고 있는 가운데 민주주의에 점점 더 큰 위협이 되고 있습니다. 딥페이크의 품질이 향상됨에 따라 실제 콘텐츠와 가짜 콘텐츠를 구분하는 것은 더욱 어려워지고 있습니다. 이러한 위협에 대응하기 위해 의원, 정부, 시민은 선거의 무결성과 진실을 보호하기 위해 협력해야 합니다. 그렇지 않을 경우 민주주의와 미디어에 대한 신뢰를 훼손하여 사회 전반에 광범위한 영향을 미칠 수 있습니다.