일론 머스크, 카마라 해리스의 논란이 된 AI 변조 영상 공유

테슬라 CEO 일론 머스크는 부통령 카마라 해리스가 출연한 변조 영상을 공유하며 비판을 받고 있다. 이 영상은 유튜버 미스터 리건이 처음 게시한 것으로, 인공지능 생성 오디오를 사용하여 해리스의 캠페인에 대한 허위 서사를 만들어냈다.

새로운 영상에는 해리스의 최신 캠페인 영상의 일부가 포함되어 있지만, 해리스가 조 바이든과 자신을 조롱하는 듯한 음성 오버가 추가되었다. 유튜브의 원본 영상에서 해리스는 코멘트를 남기며 비욘세의 노래 ‘프리에덤(Freedom)’에 맞춰 춤을 춘다. 

한편, 조작된 영상에는 해리스의 목소리를 모방한 음성이 들리며, “나, 카마라 해리스는 조 바이든이 토론에서 노망이 드러난 후 대통령 민주당 후보가 되었다고.”라고 말한다.

음성 오버는 해리스가 소수자이기 때문에 고용되었을 것이라고 암시하며, 그녀를 비판하는 것은 성차별적이고 인종차별적이라고 주장한다. 또한 그녀의 말투를 조롱하며 ‘흑인처럼 행동하려고 한다’고 하며 ‘바락 오바마 모방’을 한다고 말한다.

해리스 캠프, 비판에 대응하고 목표 방어

일부 공화당 논평자들은 최근 해리스를 ‘DEI(다양성, 평등, 포용성) 후보’라고 지칭하며, 그녀의 인종과 성별이 지명 결정 요인이었다고 암시했다. 이에 해리스 캠프의 미아 에렌버그(Mia Ehrenberg) 대변인은 머스크와 전 대통령을 비판하며, 미국 국민들은 해리스가 전달하고자 하는 가짜 뉴스가 아닌 진정한 자유, 기회, 보호를 원한다고 밝혔다. 

이 같은 반발과 이러한 조작이 불법이어야 한다는 제언에 대해 머스크는 자신의 행동을 방어했다. 그는 허구적 인물인 스건 디즈너츠 교수를 인용하여, 패러디는 여전히 미국에서 합법적이라고 밝혔다. 

미스터 리건의 원본 게시글은 1,800만 회 조회되었으며, 패러디 고지문이 없이 단순히 ‘대박’이라는 캡션만 붙인 머스크의 리트윗은 1억 3,000만 회 이상의 조회수를 기록했다.

AI 생성 가짜 뉴스가 선거에서 전 세계적 문제로 대두

이 사건은 인공지능의 오용에 대한 우려가 커지고 있음을 보여줍니다. 캘리포니아 대학교 버클리 캠퍼스의 컴퓨터 과학자 한리 파리드(Hany Farid)는 AI가 생성한 음성이 고품질임에도 불구하고, 이것이 오용될 가능성을 우려한다고 말했습니다. 그는 많은 사람들이 그 음성이 하리스(Harris)의 것이 아니라고 생각할 수 있지만, 영상에서 그녀의 음성을 사용하는 것이 상당한 영향을 미칠 수 있다고 지적했습니다.

애미 클로버처 상원의원 도 논쟁에 합류하여, 머스크와 X가 조작된 콘텐츠에 라벨을 붙이지 않으면 X 정책 위반이 되며, 선거 기간 동안 AI를 통한 콘텐츠 조작이 급증할 것이라고 밝혔다.

AI 생성 가짜 뉴스는 미국에만 국한되지 않습니다. 슬로바키아와 인도 등 전 세계적으로 딥페이크 기술을 통해 가짜 뉴스가 생성된 사례가 기록되고 있습니다. 

조작된 음성 콘텐츠는 이전에 대통령 선거 캠페인에서도 사용된 바 있습니다. 예를 들어, 바이든(Biden)을 사칭해 뉴햄프셔 주 예비선거에서 투표 참여를 방해하는 로보콜(자동 전화)이 있었습니다.