AI 생성 딥페이크가 2024선거를 위협함 – 미국 규제 기관

미국 연방선거위원회(FEC)는 8월 10일 정치적 캠페인에서 딥페이크의 잠재적 영향력을 다루기 위해 중요한 한 걸음을 내딛었습니다. 만장일치로 FEC는 정치적 광고에서 AI 생성 딥페이크 콘텐츠의 사용을 규제하려는 청원을 진행했으며, 특히 다가오는 2024년 미국 선거에 초점을 맞추었습니다.

공민단체(Public Citizen)와 그 회장인 로버트 와이즈먼이 주도한 청원은 딥페이크가 민주적 과정에 미치는 영향에 대한 우려가 커짐에 따라 이를 다루고 있습니다. 와이즈먼은 이러한 설득력 있는 조작된 영상이 현실을 왜곡하고 허위 정보를 확산시킴으로써 민주주의에 "중대한 위협"이 된다고 지적했습니다. 그는 진실과 거짓의 근본 원칙을 훼손할 수 있는 AI 생성 허위 정보의 홍수를 방지하기 위해 연방선거위원회(FEC)의 개입이 시급하다고 강조했습니다.

“FEC는 딥페이크를 금지할 권한을 행사하거나, AI 기반의 허위 정보 파도와 진실과 거짓의 기본 규범 파괴에 동조하는 위험을 감수해야 합니다.”

청원의 추진력은 정치적 캠페인에 통합되는 AI 생성 콘텐츠의 경각심을 주는 증가세입니다. 주목할 만한 예로는 공화당 후보인 플로리다 주지사 론 데산티스(Ron DeSantis) 캠페인이 전 대통령 도널드 트럼프와 앤서니 파우치 박사가 포옹하는 세 가지 가짜 이미지를 유포한 사례가 있습니다. 이러한 사례들은 AI 기반 딥페이크가 대중의 인식을 조작하고 유권자를 기만할 잠재력을 보여줍니다.

캠페인의 AI 생성 딥페이크

FEC 회의 중 공민단체의 이사회 부사장인 리사 길버트는 기존 법률 중 정치적 캠페인의 "허위 표시" 관련 조항이 AI 생성 딥페이크에 어떻게 적용되는지에 대한 명확성을 요구했습니다. 길버트는 선거 광고에서 딥페이크 사용 규제 중요성을 강조하며, 날이 갈수록 그 필요성이 절실해지고 있다고 밝혔습니다.

청원의 승인을 위한 FEC의 결정은 딥페이크가 제기하는 도전에 대응하기 위한 중요한 단계입니다. 다음 단계는 이해 관계자, 정책 전문가 및 우려하는 시민들이 의견을 표명할 수 있는 60일간의 공개 의견 수렴 기간입니다. 이 조치는 AI 기반 허위 정보가 제기하는 잠재적 위협을 규제 기관이 심각하게 받아들이고 있다는 희망적인 징후로 간주됩니다.

공민단체의 정부 관계 로비스트인 크레이그 홀먼은 공개 의견 수렴 기간의 중요성을 강조했습니다. 이는 다가오는 선거 주기에서 딥페이크 기술의 잠재적 오용에 대한 다양한 이해관계자의 우려를 표명할 수 있는 플랫폼 역할을 합니다. 정책 옹호자, 전문가, 유권자의 이러한 과정 참여는 조작된 콘텐츠의 확산을 막기 위한 효과적인 규제 수립에 기여할 것으로 예상됩니다.

이 최근 발전은 7월에 조직이 딥페이크의 결과가 선거 결과까지 뒤바꿀 수 있다고 강조한 퍼블릭 시티즌(Public Citizen)의 초기 청원 제출을 기반으로 합니다. 특히, 미국 의회 양원 구성원들은 첫 번째 청원에 대해 이 문제를 해결하는 데 대한 지지를 표현하며 응답했습니다. 이 양당 간의 인식은 AI 생성 딥페이크의 은밀한 영향으로부터 민주적 과정의 무결성을 보호하기 위한 포괄적인 조치의 필요성을 강조합니다.