최근 오픈아이(OpenAI)는 유튜브 CEO 닐 모한으로부터 최첨단 AI 모델인 소라(Sora)와 챗GPT(ChatGPT) 학습에 자사 플랫폼을 사용하는 것에 대해tron경고를 받았습니다. 이 경고는 유튜브 서비스 약관 위반 가능성과 학습 데이터 출처에 대한 우려를 고려하여 내려진 것입니다. 이러한 최첨단 AI 시스템의 학습 데이터 출처를 둘러싼 문제는 윤리적인 AI 연구와 기술 기업의 의무에 대한 논의를 촉발시켰습니다.
유튜브의 우려 사항 살펴보기
미라 무라티의 최근 인터뷰는 이미 불분명한 AI 학습 방식에 또 다른 불확실성을 더했습니다. 더욱 우려스러운 점은 불과 한 달 전 월스트리트 저널과의 인터뷰에서 오픈아이(OpenAI)의 CTO인 미라 무라티가 소라의 학습 데이터 출처에 대해 불확실하고 명확하지 않다고 언급했다는 것입니다. 유튜브 영상이 학습에 사용되었는지 여부는 불분명하지만, 오픈아이의 CEO인 닐 모한은 자사 플랫폼에서 영상 사용을 금지한다고 오픈아이에 통보함으로써 사실상 경고를 보낸 셈입니다.
모한은 블룸버그 오리지널스의 에밀리 창과의 인터뷰에서 "스크립트나 비디오 클립 같은 자료를 다운로드하는 것은 금지되어 있으며, 이는 서비스 약관을 명백히 위반하는 행위"라고 밝혔습니다. "이것이 우리 플랫폼의 콘텐츠에 대한 가이드라인입니다." 유튜브의 모회사인 구글은 자체적으로 멀티모달 AI인 '제미니'를 개발 중이며, 이 또한 학습 데이터를 활용하지만, 모한은 구글이 플랫폼 콘텐츠 사용 여부를 결정할 때 각 크리에이터와 유튜브 간의 개별trac을 따른다고 강조했습니다.
모한은 다음과 같이 말했습니다
"이 플랫폼은 녹취록이나 영상 일부를 다운로드할 수 없도록 되어 있는데, 이는 서비스 약관을 명백히 위반하는 것입니다. 이는 우리 플랫폼의 콘텐츠 이용에 관한 규칙입니다."
출처: 블룸버그
모한은 또한 다음과 같이 덧붙였다
"구글은 유튜브 플랫폼의 동영상을 사용할지 여부를 결정하기 전에 유튜브와 크리에이터 간의 개별trac을 준수합니다."
출처: 블룸버그
무라티의 발언을 더 자세히 살펴보면 저작권 및 출처 표기 문제가 얼마나 심각한지 알 수 있습니다. "공개적으로 이용 가능한 데이터"라는 표현을 고려할 때, 오픈AI의 소라가 유튜브 영상이나 소셜 네트워크 게시물 등 인터넷상의 모든 것을 수집할 가능성이 있습니다. 예를 들어, 유튜브에 게시된 모든 콘텐츠의 라이선스 약관이 이러한 사용을 허용할 가능성은 매우 낮습니다.
인터넷상의 저작권을 유지하는 것은 그 자체로 어려운 일입니다. 동시에 OpenAI의 Sora는 해당 콘텐츠에 접근하여 교육적 목적 외에도 수익을 창출할 수 있게 될 것입니다.
소라의 학습에 사용되는 데이터셋에 대해 공개를 꺼리는 사람은 오픈아이(OpenAI)의 CTO뿐만이 아닙니다. 일반적으로 회사 전체가 사용하는 데이터셋 출처에 대해 거의 언급하지 않습니다. 심지어 소라의 기술 문서에도 텍스트를 영상으로 변환하는 시스템을 학습시키기 위해 자막이 포함된 상당수의 동영상이 필요하다는 사실이 명확하게 명시되어 있지 않습니다.
이 회사들이 해당 데이터를 사용할 법적 권리가 없다는 점을 고려할 때, 이와 관련한 그들의 불투명성은 법적 문제를 회피하려는 시도의 첫 번째 징후일 수 있습니다.
