구글의 유튜브, 손해배상 소송 당해…조회수 1600만 회 기록한 AI 딥페이크 채널 삭제

볼리우드 스타 아비셰크 바찬과 그의 아내 아이슈와리아 라이 바찬이 유튜브의 인공지능(AI) 학습 정책과 관련하여 소송을 제기했습니다. 부부는 법원에 자신들의 지적 재산권을 침해하는 AI 영상의 삭제 및 제작 금지를 요청했습니다.

이 부부는 구글이 그러한 유튜브 영상들이 다른 AI 플랫폼을 학습시키는 데 사용되지 않도록 안전장치를 마련해 주기를 바라고 있습니다. 

부부는 소송 서류에서 인공지능 플랫폼이 자신들을 부정적으로 묘사하고 지적 재산권을 침해하는 편향된 콘텐츠로 훈련될 경우, 인공지능 모델이 그러한 허위 정보를 학습하고 퍼뜨릴 가능성이 높다고 주장했습니다.

인공지능이 생성한 수백 개의 볼리우드 영상이 삭제되었습니다

소송에 대한 응답으로 판사는 지난달 배우들이 요청한 유튜브 링크 몇 개를 삭제하라고 명령했습니다. 

이는 해당 영상들이 유명인 부부가 자신들의 권리 보호를 위해 제기한 소송의 핵심 쟁점 영상들과 유사하다는 이유 때문입니다.

현재 삭제된 해당 채널에서 가장 인기 있었던 영상은 살만 칸과 아이슈와리아가 수영장에서 함께 있는 모습을 AI 애니메이션으로 만든 영상으로, 조회수가 410만 회에 달했습니다. 칸은 아이슈와리아가 결혼하기 훨씬 전부터 그녀와 연인 관계였습니다. 

그중에는 인공지능 조작을 통해 아비셰크가 포즈를 취하다가 갑자기 영화배우와 키스하는 장면이 담긴 영상과, 아비셰크 바찬이 분노하는 동안 아이슈와리아와 칸 enj함께 식사를 즐기는 모습을 인공지능으로 묘사한 영상이 있었다.

소송장에는 관련자들이 삭제를 요구하는 수백 개의 링크와 게시물이 구체적으로 명시되어 있으며, 해당 게시물들이 부부에게 피해를 주고 그들의 명예와 평판을 훼손했다고 주장하고 있습니다. 

이 부부는 자신들의 사진이 무단으로 사용된 상품을 판매하는 구글과 다른 잘 알려지지 않은 웹사이트들을 상대로 45만 달러의 손해배상을 . 하지만 금요일 현재, 아비셰크의 소송 서류에 언급된 사례와 유사한 영상들이 유튜브에 여전히 남아 있었습니다.

인도는 전 세계 유튜브 최대 시장이며, 볼리우드 영상과 같은 엔터테인먼트 콘텐츠로 유명합니다. 약 6억 명의 사용자를 보유하고 있습니다. 유튜브는 지난 5월, 지난 3년간 인도 크리에이터들에게 24억 달러 이상을 지급했다고 밝혔습니다. 따라서 콘텐츠 제작자들이 콘텐츠의 인기를 높이면, 그들의 초상권을 침해하더라도 수익을 창출할 수 있습니다.

Grok과 중국의 AI가 혼란 속에서 발견되었습니다

해당 행위자들은 유튜브의 콘텐츠 및 제3자 학습 정책이 우려스럽다고 주장합니다. 이 정책에 따라 사용자는 자신이 제작한 영상을 경쟁사의 AI 모델 학습에 사용하는 데 동의할 수 있으며, 이는 온라인상에서 허위 콘텐츠가 더욱 확산될 위험을 초래한다는 것입니다.

소송 서류에는 "이러한 콘텐츠가 AI 모델 학습에 사용될 경우, 저작권 침해 콘텐츠의 사용 사례가 기하급수적으로 증가할 가능성이 있다. 즉, 먼저 유튜브에 업로드되어 대중이 시청한 후, 학습에도 사용될 수 있다는 것이다."라고 명시되어 있습니다.

유튜브는 해당 뉴스 통신사 보도에 언급된 채널 제작자가 채널을 삭제했다고 밝혔습니다. 유튜브는 유해한 허위 정보만 금지하며, 사용자를 오도할 목적으로 기술적으로 조작되거나 변조된 콘텐츠를 삭제할 뿐이라고 설명했습니다.

YouTube의 데이터 공유 정책에 따르면 크리에이터는 OpenAI, Meta, xAI와 같은 다른 AI 플랫폼의 모델 학습을 위해 자신의 영상을 공유하는 데 동의할 수 있습니다. YouTube는 또한  사용자가 이러한 학습 목적으로 영상을 공유하는 경우 "제3자 회사가 무엇을 하는지는 우리가 통제할 수 없다"

한 불법 채널은 튜토리얼에서 xAI의 Grok을 이용해 간단한 텍스트 입력으로 이미지를 생성한 다음, 중국 AI 스타트업 미니맥스의 Hailuo를 이용해 동영상으로 변환했다고 설명합니다. 이는 미국이 중국의 AI가 조작이 용이하다는 이유로 위험하다고 지적한 이후에 나온 것입니다.