2024년 선거 전 딥페이크 선거 교란에 대한 주의 경보

2024년 선거가 코앞으로 다가오면서 정치적 딥페이크의 위협이 크게 대두되고 있지만, 주들은 이 신흥 문제에 대응하기 위한 규제를 제정하는 데 느린 속도를 보이고 있습니다.

2023년 정치 캠페인에서 인공지능 및 딥페이크 사용과 관련된 법률을 통과시킨 주는 단 세 곳뿐이며, 이는 주 차원에서의 긴급한 조치 필요성을 강조합니다. 

연방 정부가 이 문제에 대해 소극적인 태도를 유지하는 가운데, 주 의원들은 선거의 무결성을 보호하기 위해 주도적인 역할을 취할 것을 촉구받고 있습니다.

증가하는 위협에 맞선 제한적인 주 차원의 조치

인공지능 및 딥페이크 기술과 관련된 잠재적 위험이 점점 더 명확해지고 있는 한 해 동안, 미네소타, 미시간, 워싱턴의 세 주만이 입법을 통해 이 문제에 대응하기 위한 조치를 취했습니다. 

이 주들은 상황의 긴급성을 인식하고 양당 지지를 받아 법률을 제정했습니다. 그러나 많은 다른 주들은 아직 정치적 허위 정보의 진화하는 환경에 대응하지 못하고 있습니다.

주 차원 조치를 방해하는 과제

여러 가지 과제가 주들이 정치적 딥페이크 문제를 신속하게 해결하는 것을 방해하고 있습니다. 무엇보다도, 모든 규제는 허위 정보 퇴치 필요성과 제1수정헌법 권리 보호 사이를 신중하게 균형 있게 맞추어야 하므로, 입법 과정이 복잡해지고 법적 도전에 직면할 가능성이 있습니다. 

또한 생성형 AI 및 딥페이크 기술의 급속한 발전은 이러한 도구의 끊임없이 진화하는 능력을 따라잡는 데 어려움을 겪을 수 있는 의원들에게 상당한 장벽으로 작용합니다. 많은 입법자들은 이러한 문제에 대한 포괄적인 이해가 부족하여 효과적인 정책을 수립하는 데 어려움을 겪고 있습니다. 게다가 규제를 집행하려면 주요 소셜 미디어 플랫폼과의 협력이 필요하여 과정에 또 다른 복잡성을 더합니다.

주 차원의 해결책에 대한 긴급한 필요성

현장의 전문가들과 옹호자들은 주들이 딥페이크가 제기하는 위협에 대응하기 위해 더 이상 기다릴 여유가 없다고 강조합니다. 지난 1년 동안 설득력 있지만 허구의 영상을 생성하기 위해 딥페이크 기술이 급증했으며, 이로 인해 2024년 선거가 정치적 허위 정보의 홍수로 훼손될 수 있다는 우려가 제기되었습니다. 따라서 주들은 이러한 조작의 잠재적 결과를 방지하기 위해 지금 바로 조치를 취해야 합니다.

딥페이크: 증가하는 위협

딥페이크는 인공지능을 사용하여 생성된 기만적인 영상으로, 실제 개인의 외모와 음성을 설득력 있게 모방할 수 있습니다. 

인터넷상에서 딥페이크 콘텐츠가 확산되면서 대중이 진위와 허구를 구분하는 것이 점점 더 어려워지고 있습니다. 그 결과, 다가오는 선거 기간 동안 딥페이크가 정치적 허위 정보를 확산하는 데 사용되어 선거 과정의 무결성을 훼손할 수 있다는 우려가 커지고 있습니다.

2023년, 세 개의 주가 혁신적인 입법을 통해 딥페이크 문제 해결에 앞장섰습니다. 이러한 법률은 다른 주들이 고려할 수 있는 모범 사례가 될 수 있습니다.

워싱턴주의 공개 의무: 5월, 워싱턴주는 선거에 영향을 미치기 위해 사용되는 '합성' 미디어에 대한 공개를 의무화하는 법률을 제정했습니다. 

이 법률은 '합성'을 디지털 기술을 사용하여 현실적이지만 거짓된 표현을 만들기 위해 조작된 이미지, 오디오 또는 비디오로 정의합니다. 이러한 공개 의무 요구사항은 정치적 캠페인에서 딥페이크 콘텐츠 사용에 대한 투명성을 높이는 것을 목표로 합니다.

미네소타주의 선거 관련 딥페이크 금지: 미네소타주는 8월, 선거일 90일 이내에 선거에 영향을 미치기 위한 목적으로 딥페이크 미디어의 게시를 금지하는 법률을 통과시켰습니다. 

이 법률은 딥페이크임을 알면서 유포한 것, 묘사된 개인의 동의 없이, 후보자를 해치거나 선거 결과에 영향을 미치려는 의도 등 기소를 위한 기준을 명시하고 있습니다.

미시간주의 포괄적 접근: 미시간주는 지난 달, 선거일 90일 이내에 현저히 기만적인 미디어의 유포를 금지하는 것과 공개 의무를 결합한 법률을 채택했습니다. 그러나 해당 미디어에 조작되었음을 명시하는 공개 사항이 포함되어 있다면 금지 조항은 면제됩니다. 조작은 이미지, 비디오, 오디오, 텍스트에 따라 다르게 정의됩니다.

긴급한 행동 촉구

딥페이크의 위협이 계속 진화함에 따라, 전문가들과 옹호자들은 즉각적인 주 차원의 행동 필요성을 강조합니다. 비영리 단체인 브레넌 센터의 선거 및 정부 프로그램 책임자인 다니엘 위너는 지연을 경고하며 

그는 효과적인 정책 해결책이 이미 존재함을 강조하며, 주 입법자들이 소매를 걷어붙이고 민주적 과정을 보호하기 위한 입법 작성을 시작할 것을 촉구합니다.