인공지능으로 제작된 딥페이크가 2024년 대선을 위협한다 – 미국 규제당국

미국 연방선거위원회(FEC)는 8월 10일, 딥페이크 기술이 정치 캠페인에 미칠 수 있는 잠재적 영향력을 해결하기 위한 중요한 조치를 취했습니다. FEC는 만장일치로 인공지능(AI)으로 생성된 딥페이크 콘텐츠를 정치 광고에 사용하는 것을 규제하려는 청원을 승인했으며, 이는 특히 다가오는 2024년 미국 대선에 초점을 맞추고 있습니다.

시민단체 퍼블릭 시티즌과 로버트 와이스먼dent 이 주도한 이 청원은 딥페이크가 민주주의 과정에 미치는 영향에 대한 우려가 커지고 있는 상황을 다루고 있습니다. 와이스먼 회장은 이러한 정교하게 조작된 영상들이 현실을 왜곡하고 허위 정보를 유포함으로써 "민주주의에 중대한 위협"을 가한다고 지적했습니다. 그는 연방선거위원회(FEC)가 시급히 개입하여 인공지능으로 생성된 허위 정보가 진실과 거짓의 근본 원칙을 훼손할 가능성을 막아야 한다고 강조했습니다.

"FEC는 권한을 행사하여 딥페이크를 금지해야 하며, 그렇지 않으면 AI가 주도하는 사기성 허위 정보의 물결에 공모하고 진실과 거짓에 대한 기본적인 규범을 파괴할 위험이 있습니다."

이 청원 의 주요 동기는 인공지능(AI)으로 생성된 콘텐츠가 정치 캠페인에 이용되는 사례가 급증하고 있다는 점입니다. 특히 공화당 후보였던 론 데산티스 플로리다 주지사의 선거 캠페인에서는 도널드 트럼프 전 대통령이 앤서니 파우치 박사와 포옹하는 모습을 담은 조작된 이미지 세 장을 유포했습니다dent 이러한 사례들은 AI 기반 딥페이크가 대중의 인식을 조작하고 유권자를 속일 수 있는 잠재력을 보여줍니다.

AI로 생성된 딥페이크 이미지가 선거 캠페인에 이용됨

연방선거위원회(FEC) 회의에서 시민단체 퍼블릭dent (Public Citizen)의 부회장인 리사 길버트는 정치 캠페인에서의 "허위 진술" 관련 기존 법률이 인공지능으로 제작된 딥페이크에 적용되는지에 대한 명확한 설명을 요구했습니다. 길버트는 선거 광고에서 딥페이크 사용을 규제하는 것이 날이 갈수록 더욱 중요해지고 있다고 강조했습니다.

연방선거위원회(FEC)가 해당 청원을 승인한 것은 딥페이크 문제 해결을 위한 중요한 진전입니다. 다음 단계는 60일간의 공개 의견 수렴 기간으로, 이해관계자, 정책 전문가, 그리고 관련 시민들이 의견을 제시할 수 있습니다. 이러한 움직임은 규제 당국이 인공지능 기반 허위 정보 심각하게 받아들이고 있다는 고무적인 신호로 해석됩니다.

시민단체 퍼블릭 시티즌의 정부 업무 담당 로비스트인 크레이그 홀먼은 공청회 기간의 중요성을 강조했습니다. 이 기간은 다양한 이해관계자들이 다가오는 선거에서 딥페이크 기술이 악용될 가능성에 대한 우려를 표명할 수 있는 플랫폼 역할을 합니다. 정책 옹호자, 전문가, 유권자들이 이 과정에 참여함으로써 조작된 콘텐츠 확산을 막을 수 있는 효과적인 규제를 마련할 수 있을 것으로 기대됩니다.

이번 조치는 시민단체 퍼블릭 시티즌이 지난 7월 딥페이크의 심각한 영향이 선거 결과에까지 미칠 수 있다고 경고하며 제출한 첫 번째 청원에 이은 것입니다. 특히, 미국 상하 양원 의원들은 첫 번째 청원에 대해 문제 해결을 지지한다는 입장을 밝혔습니다. 이러한 초당적 지지는 인공지능으로 생성된 딥페이크의 악영향으로부터 민주적 절차의 공정성을 보호하기 위한 포괄적인 조치가 필요함을 강조합니다.