구글 유튜브, 손해배상 소송 당해…1,600만 조회수를 기록한 AI 딥페이크 채널 사라져

발리우드 스타 아비셰크 바친과 그의 아내 아이슈와랴 라이 바친은 유튜브의 AI 학습 정책에 대해 소송을 제기했습니다. 이 부부는 자신의 지적재산권을 침해하는 AI 비디오의 생성을 금지하고 제거해 달라고 법관에게 요청했습니다.

이 부부는 구글이 이러한 유튜브 비디오가 어쨌든 업로드되더라도 다른 AI 플랫폼에 학습되지 않도록 보장할 수 있는 안전장치를 갖추길 원합니다. 

이 부부는 자신의 제출 자료에서 AI 플랫폼이 자신을 부정적으로 묘사하고 지적재산권을 침해하는 편향된 콘텐츠로 학습될 경우, AI 모델이 그러한 허위 정보를 학습하고 확산시킬 가능성이 높다고 주장합니다.

수백 개의 AI 생성 발리우드 비디오가 삭제됨

소송에 대한 응답으로, 법관은 지난달 배우들이 요청한 몇몇 유튜브 링크의 삭제를 명령했습니다. 

지금 수백 개의 AI 생성 발리우드 비디오(총 1,600만 조회수)가 유명인 부부가 자신의 권리를 보호하기 위해 제기한 법적 분쟁의 중심에 있던 비디오들과 유사하다는 이유로 구글 유튜브에서 삭제되었습니다.

이제 삭제된 채널에서 가장 인기 있는 비디오는 살만 칸과 아이슈와랴가 수영장에서 즐기는 AI 애니메이션을 담은 410만 조회수의 비디오였습니다. 칸은 아이슈와랴가 결혼하기 훨씬 전부터 그녀와 교제했습니다. 

그중에는 AI 조작을 통해 아비셰크가 포즈를 취하다가 갑자기 영화 여배우와 키스하는 장면과, 아비셰크 바친이 분노하는 가운데 아이슈와랴와 칸이 함께 식사를 즐기는 AI 묘사가 포함되었습니다.

소송장에는 배우들이 삭제를 요청한 수백 개의 링크와 게시물이 구체적으로 나열되어 있으며, 이는 부부에게 해를 끼치고 그들의 존엄성과 평판을 훼손했다고 명시했습니다. 

이 부부는 $450,000의 손해배상 을 구글과 자신들의 이미지가 담긴 무단 상품을 제공하는 기타 소규모 웹사이트들을 상대로 청구하고 있습니다. 그럼에도 불구하고, 아비셰크의 소송 자료에 언급된 유튜브의 유사한 몇몇 비디오들은 금요일까지도 온라인에 남아 있었습니다.

인도는 유튜브의 전 세계 최대 시장이며, 발리우드 비디오와 같은 엔터테인먼트 콘텐츠로 유명합니다. 약 6억 명의 사용자를 보유하고 있습니다. 5월, 유튜브는 지난 3년 동안 인도 크리에이터들에게 24억 달러 이상을 지급했다고 밝혔습니다. 따라서 인격권을 침해하는 크리에이터들은 비디오가 인기를 끌면서 수익을 올릴 수 있습니다.

그로크와 중국의 AI가 혼란에 빠지다

배우들은 유튜브의 콘텐츠 및 제3자 학습 정책이 우려된다고 주장합니다. 이 정책들은 사용자가 자신이 만든 비디오를 경쟁 AI 모델 학습에 공유하는 데 동의할 수 있도록 허용함으로써, 온라인에서 오해의 소지가 있는 콘텐츠가 더 널리 퍼질 위험을 초래하기 때문입니다.

제출 자료에는 다음과 같이 적혀 있습니다. “이러한 콘텐츠가 AI 모델 학습에 사용되면, 침해된 콘텐츠의 사용 사례가 증폭될 잠재력이 있습니다. 즉, 먼저 유튜브에 업로드되고 대중이 시청한 후 학습에도 사용되는 것입니다.”

YouTube 창작자가 뉴스 에이전시 보고서에 언급된 채널을 삭제했다고 밝혔습니다. 회사는 유해한 허위 정보의 유포를 금지하고, 사용자를 오도하는 방식으로 기술적으로 조작되거나 변조된 콘텐츠만 제거한다고 말했습니다.

유튜브의 데이터 공유 정책은 창작자가 오픈AI, 메타, xAI와 같은 다른 AI 플랫폼의 모델 학습을 위해 자신의 비디오를 공유하는 데 동의할 수 있다고 명시합니다. 유튜브는 추가했습니다.  “사용자가 이러한 학습 목적으로 비디오를 공유할 경우, 제3자 기업이 무엇을 하는지는 우리가 통제할 수 없습니다.”

한 튜토리얼에서 불법 채널은 xAI의 그로크를 통해 간단한 텍스트 프롬프트로 이미지를 생성한 후, 중국 AI 스타트업 미니맥스의 헤일로(Hailuo)를 사용하여 비디오로 변환했다고 설명했습니다. 이는 미국이 중국의 AI를 위험하다고 규정하며 쉽게 조작될 수 있다고 보고한 이후의 일입니다.