카니예 웨스트를 비난하는 가짜 영상이 viral 되자 스칼렛 요한슨, AI 제한 법안 촉구

스칼렛 요한슨은 자신의 초상과 여러 다른 유대인 유명인의 무단 딥페이크 영상이 소셜 미디어에서 viral 된 후, 미국 의회 의원들에게 AI 사용 제한을 촉구했다.

이 비디오에는 40년 경력 할리우드 여배우의 AI 생성 버전이 등장하며, 랩퍼 카니예 웨스트의 최근 반유대성 발언에 반대하는 것으로 보이는 다른 인기 있는 유대인 A급 스타 12명 이상이 함께 나온다.

스칼렛 요한슨, AI 오용 비난

요한슨은 손가락 중지를 치켜세운 손의 이미지가 담긴 흰색 티셔츠를 입고 있는 모습이 나온다. 현재 예(Ye)로 이름을 바꾼 웨스트는 지난 주말 유대인들을 향한 광적인 발언을 이어갔고, 자신의 웹사이트에서 만자 문양 티셔츠 판매까지 시작했다.

“가족들과 친구들이 내 초상이 담긴 AI 생성 영상이 온라인에서 유포되고 확산되고 있다는 사실을 나에게 알려주었다,” 요한슨은 수요일 피플지에 말했다.

“나는 반유대주의나 어떤 형태의 증오 발언에도 용납하지 않는 유대인 여성이다. 하지만 나는 또한 증오 발언의 잠재력이 AI에 의해 증폭되는 것이 이를 책임지는 그 어떤 개인보다 훨씬 더 큰 위협이라고 확신한다. 우리는 그 메시지와 무관하게 AI의 오용을 지적해야 한다. 그렇지 않으면 현실에 대한 통제력을 잃을 위험이 있다.”

비디오 클립 – 이스라엘의 생성형 AI 전문가 오리 베예라노가 제작한 것으로 알려짐 – 아담 샌들러, 밀라 쿠니스, 드레이크, 제리 세인펠드, 스티븐 스필버그, 마크 저커버그, 사샤 바론 코헨, 잭 블랙, 레니 크라비츠, 벤 스틸러, 데이비드 슈위머 등 20명의 스타 AI 버전도 포함하고 있다.

비디오에서 스타들은 손가락 중지를 치켜세운 흰색 티셔츠를 입고 있으며, 손바닥 중앙에는 다윗의 별이 있고 그 아래로 카니예의 이름이 적혀 있다.

마지막으로 비디오는 “더 이상은 충분하지 않다”고 선언하며 시청자들에게 “반유대주의와의 싸움에 동참하라”고 촉구한다.

성명서에서 요한슨은 자신이 “매우 공개적인 AI의 피해자”가 된 것을 애도했다. 하지만 그녀는 또한 “AI의 위협은 우리 모두에게 영향을 미친다”고 경고했다.

“AI와 관련하여 1,000피트 높이의 파도가 다가오고 있으며, 미국을 제외한 몇몇 진보적인 국가들이 책임감 있게 대응했다,” 그녀는 자세히 설명했다.

“나는 미국 정부가 AI 사용 제한 입법 통과를 최우선 과제로 삼을 것을 촉구한다. 이는 인류의 즉각적인 미래에 막대한 영향을 미치는 양당 간 이슈이다.”

요한슨.

요한슨은 또한 미국 정부가 “모든 시민을 AI의 임박한 위험으로부터 보호하는 입법을 통과시키는 데 있어 마비 상태”라는 점이 우려스럽다고 말했다.

이 스타는 이전에 AI 논란에 휘말린 바 있다

‘Fly Me to the Moon’의 스타가 자신의 초상을 훔치는 AI와 deal해야 했던 것은 이번이 처음이 아니다. 2024년 5월, 그녀는 ChatGPT 보이스인 스카이가 요한슨의 목소리와 유사하다는 사실이 드러난 후 오픈AI를 비판했다.

오픈AI는 스카이의 목소리가 “요한슨의 모방이 아니다”라고 말했지만, 그럼에도 불구하고 해당 보이스를 일시 정지시켰다.

그리고 2023년 11월, 요한슨은 자신의 초상을 사용해 광고를 제작한 회사를 고소하겠다고 위협했다.

“비디오에는 리사 AI가 생성한 이미지가 포함되었습니다. 이 사람과는 아무 관련이 없습니다,” 회사는 혐의를 부인했다.

요한슨이 가짜 비디오에서 카니예 웨스트의 견해에 대해 발언한 유일한 스타이지만, 다른 스타들도 이전에 우려를 표명해 왔다. 예를 들어, 그의 슈퍼볼 광고가 방영되기 전 주말 동안 ‘프렌즈’의 배우 데이비드 슈위머는 일론 머스크에게 카니예를 X에서 차단해 달라고 간청했다.

“우리는 미친 광신도가 증오와 무지에서 우러난 담을 뱉는 것을 막을 수는 없지만, 그에게 확성기를 주는 것은 막을 수 있습니다, 머스크 씨,” 슈위머는 인스타그램에 썼다.

“카니예 웨스트는 당신의 플랫폼 X에서 3,270만 명의 팔로워를 보유하고 있습니다. 이는 존재하는 유대인 수의 두 배에 해당하는 사람입니다. 그의 병적인 증오 발언은 유대인들에 대한 ‘실제 생활’ 폭력으로 이어집니다,” 슈위머는 덧붙였다.

CNN에 따르면, 카니예 웨스트는 일요일 자신의 X 계정을 비활성화했다. 소셜 미디어 전반의 유대인 혐오와 허위 정보를 퇴치하기 위해 활동하는 조직인 텔아비브 연구소의 공동 창립자 헨 마지그는 이 AI 비디오에 대해 논평했다.

“AI를 오용하는 것은 분명히 위험하다,” 마지그는 X에 썼다. “하지만 더 위험한 것이 무엇인지 아십니까? 매일 수백만 명에게 플랫폼을 통해 공개되는 통제되지 않는 반유대성 증오 말이다.”