딥페이크2024년 선거를 앞두고 정치적 딥페이크 커지고 있지만, 각 주에서는 이 새로운 문제를 해결하기 위한 규정을 제정하는 데 느렸습니다.
2023년에 정치 캠페인에서 인공지능과 딥페이크를 사용하는 것과 관련된 법안을 통과시킨 주는 단 3개뿐이어서 주 정부 차원에서 긴급한 조치가 필요하다는 점이 부각되었습니다.
연방 정부가 이 문제에 대해 여전히 미온적인 태도를 보이는 가운데, 주 의원들은 선거의 공정성을 보호하기 위한 주도권을 잡아야 한다는 촉구가 나오고 있습니다.
증가하는 위협에 직면한 제한적인 국가 조치
인공지능과 딥페이크 기술과 관련된 잠재적 위험이 점점 더dent해진 올해, 미네소타, 미시간, 워싱턴의 세 주만이 입법을 통해 이 문제를 해결하기 위한 조치를 취했습니다.
이들 주는 상황의 긴박성을 인지하고 초당적 지지를 바탕으로 관련 법안을 제정했습니다. 그러나 더 많은 주들이 정치적 허위 정보의 변화하는 환경에 아직 대응하지 못하고 있습니다.
국가 행동을 방해하는 과제
여러 가지 어려움으로 인해 각 주에서 정치적 딥페이크 문제를 신속하게 해결하지 못하고 있습니다. 무엇보다도, 모든 규제는 허위 정보 근절의 필요성과 수정헌법 제1조에 따른 권리 보호 사이에서 신중하게 균형을 맞춰야 합니다. 이는 입법 과정을 복잡하게 만들고 잠재적으로 법적 문제를 야기할 수 있습니다.
또한, 생성적 AI와 딥페이크 기술의 급속한 발전은 끊임없이 진화하는 이러한 도구의 역량을 따라잡는 데 어려움을 겪는 의원들에게 상당한 어려움을 안겨줍니다. 많은 의원들이 이러한 문제에 대한 포괄적인 이해가 부족하여 효과적인 정책을 수립하는 데 어려움을 겪고 있습니다. 더욱이, 규제 시행에는 주요 소셜 미디어 플랫폼의 협력이 필요하여 절차가 더욱 복잡해집니다.
국가 차원의 솔루션이 시급히 필요합니다
이 분야의 전문가와 옹호자들은 딥페이크가 야기하는 위협에 대처하기 위해 주 정부가 더 이상 기다릴 여유가 없다고 강조합니다. 지난 한 해 동안 딥페이크 기술을 이용하여 설득력 있지만 허위 영상을 제작하는 사례가 급증하면서, 2024년 선거가 정치적 허위 정보의 홍수로 얼룩질 수 있다는 우려가 제기되었습니다. 따라서 주 정부는 이러한 조작의 잠재적 결과를 방지하기 위해 지금 당장 조치를 취해야 합니다.
딥페이크: 점점 커지는 위협
딥페이크는 인공지능을 이용해 생성된 기만적인 영상으로, 실제 사람의 모습과 말을 설득력 있게 모방할 수 있습니다.
인터넷에 딥페이크 콘텐츠가 급증하면서 대중이 진실과 허구를 구분하는 것이 점점 더 어려워지고 있습니다. 그 결과, 다가오는 선거철에 딥페이크가 정치적 허위 정보를 유포하는 데 이용되어 선거 과정의 공정성을 훼손할 수 있다는 우려가 커지고 있습니다.
2023년에는 세 주가 혁신적인 법안을 통해 딥페이크 문제 해결에 앞장섰습니다. 이러한 법안들은 다른 주들이 참고할 만한 모델이 될 수 있습니다.
워싱턴의 정보 공개 요구 사항: 5월, 워싱턴은 선거에 영향을 미치는 데 사용되는 "합성" 미디어에 대한 정보 공개를 의무화하는 법률을 제정했습니다.
이 법은 "합성"을 디지털 기술을 사용하여 사실적이지만 허위인 것처럼 보이도록 조작된 이미지, 오디오 또는 비디오로 defi. 이러한 정보 공개 요건은 정치 캠페인에서 딥페이크 콘텐츠 사용에 대한 투명성을 높이기 위한 것입니다.
미네소타의 선거 관련 딥페이크 금지: 미네소타는 8월에 선거일로부터 90일 동안 선거에 영향을 미치려는 의도로 딥페이크 미디어의 게시를 금지하는 법안을 통과시켰습니다.
이 법안은 기소 기준을 명시하고 있는데, 여기에는 딥페이크의 유포 사실을 알고 있는 경우, 묘사된 개인의 동의가 없는 경우, 후보자에게 해를 끼치거나 선거 결과에 영향을 미치려는 의도가 있는 경우 등이 포함됩니다.
미시간주의 포괄적 접근 방식: 미시간주는 지난달 선거일로부터 90일 이내에 중대한 기만적 내용을 담은 미디어 배포를 금지하고 정보 공개 의무를 부과하는 법안을 채택했습니다. 단, 해당 미디어가 조작되었다는 사실을 명시하는 정보 공개가 포함된 경우 이 금지 조치는 면제됩니다. 이미지, 비디오, 오디오, 텍스트에 대한 조작은 다르게 defi됩니다.
긴급 조치를 촉구하다
딥페이크의 위협이 계속 진화함에 따라 전문가와 옹호자들은 즉각적인 국가 차원의 조치 필요성을 강조합니다. 초당파 성향의 브레넌 센터(Brennan Center) 선거 및 정부 프로그램 책임자인 다니엘 와이너(Daniel Weiner)는 지체해서는 안 된다고 경고하며, "딥페이크로 인한 심각한 위험성이 지난 1~2년 사이에 완전히 인식되기 시작했다"고 말했습니다.
그는 효과적인 정책 솔루션이 이미 마련되어 있다고 강조하며, 주의회 의원들에게 소매를 걷어붙이고 민주적 과정을 보호하는 법안을 제정할 것을 촉구했습니다.
