유튜브, AI 기반 딥페이크로부터 크리에이터를 보호하는 새로운 도구 공개

유튜브는 사용자의 동의 없이 인공지능(AI)으로 생성된 음성이나 외모를 영상에 사용하는 것을 감지하는 도구를 개발 중입니다. 구글 소유의 유튜브는 오늘 발표를 통해 이러한 도구가 플랫폼 내 콘텐츠 제작자들을 보호할 것이라고 밝혔습니다.

이번 발표는 딥페이크 확산으로 인한 금전적 손실 및 명예 훼손과 같은 주요 문제에 대한 해결책을 제시하는 만큼 환영할 만한 소식입니다. 많은 사람들이 이 도구를 통해 딥페이크를dent하고 신고하는 과정이 더욱 간편해지기를 기대하고 있습니다.

두 가지 도구는 음악가와 유명 인사를 보호하는 데 중점을 둡니다

회사 측은 두 가지 도구를 개발 중이라고 설명했습니다. 첫 번째는 유튜브 콘텐츠 ID 시스템의 일부가 될 노래 음성dent도구입니다. 이 기능은 플랫폼에서 다른 사람의 노래 목소리를 흉내 낸 AI 생성 콘텐츠를maticmatic감지하고 제거합니다.

두 번째 도구로 유튜브는 크리에이터, 운동선수, 음악가, 예술가 등 유명인들이 플랫폼에서 자신의 얼굴을 모방한 딥페이크 영상을 감지하고 삭제할 수 있도록 하는 기술을 개발 중입니다. 유튜브는 이러한 도구들이 개인정보 보호 업데이트 및 서비스 약관과 함께 크리에이터를 보호하기에 충분할 것이라고 밝혔습니다.

하지만 유튜브의 목표는 사람들이 플랫폼에서 AI를 사용하는 것을 막는 것이 아니라, AI의 책임감 있는 사용을 보장하고 크리에이터가 자신의 초상권 사용을 통제할 수 있도록 지원하는 것입니다.

거기에는 이렇게 적혀 있었습니다:

"저희는 AI가 인간의 창의성을 대체하는 것이 아니라 향상시켜야 한다고 믿습니다. 미래의 기술 발전이 파트너들의 목소리를 더욱 크게 반영할 수 있도록 파트너들과 협력할 것이며, 우려 사항을 해소하고 공동의 목표를 달성하기 위한 안전장치를 지속적으로 마련해 나갈 것입니다."

한편 유튜브는 이러한 기능들이 언제 사용자에게 제공될지에 대한 구체적인 일정을 제시하지 않고, 노래하는 목소리 감지 도구는 아직 미세 조정이 필요하지만 2025년 초에 시범 프로그램을 시작할 예정이라고만 밝혔습니다.

유튜브, AI 데이터 스크래핑 방지 기술 공개 (잠재적)

유튜브는 또한 AI 기업들이 소유자의 허가 없이 자사 플랫폼의 콘텐츠를 모델 학습에 사용하는 것을 막기 위한 도구를 개발 중이라고 시사했습니다. 유튜브는 이를 주요 문제로 인식하고, 제3자가 자사 플랫폼에서 데이터를 무단으로 추출하여 서비스 약관을 위반하는 행위를 감지하고 차단하는 시스템에 투자하고 있다고 밝혔습니다.

하지만 유튜브는 크리에이터들이 AI 기업과 협업하고 싶어할 수도 있다는 점을 인지하고 있습니다. 따라서 유튜브 크리에이터들이 플랫폼에서 제3자가 자신의 콘텐츠를 사용하는 방식을 제어할 수 있도록 하는 방안을 모색하고 있습니다.

유튜브는 AI 기업들이 자사 콘텐츠를 무단으로 복제하여 모델 학습에 사용하는 것에 대해 강경한 입장을 취하고 있지만, 유튜브와 모회사인 구글은 서비스 약관을 준수하면서 해당 콘텐츠를 같은 목적으로 사용하고 있습니다. 앞으로도 책임감 있는 방식으로 AI 도구를 개발하기 위해 콘텐츠를 계속 활용할 계획입니다.