틱톡, 허위 정보 퇴치를 위해 AI 기반 콘텐츠 태깅 기능 도입

인기 동영상 공유 플랫폼 틱톡은 허위 정보 확산을 막기 위해matic다른 플랫폼에서 제출된 AI 생성 콘텐츠에 자동으로 태그를 부착할 예정입니다. 틱톡은 '굿모닝 아메리카'를 통해 플랫폼에서 생성된 AI 콘텐츠에 자동으로 라벨을 붙이는 계획을 발표했습니다matic사용자 간 투명성과 신뢰도를 높이기 위한 플랫폼 전략의 일환입니다. 이는

사용자 안전을 위한 TikTok의 약속

틱톡은 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 회원이 된 최초의 동영상 공유 플랫폼이라고 밝혔습니다. 이는 인공지능으로 제작된 콘텐츠를dent할 수 있도록 하는 "콘텐츠dent정보" 기술을 도입하기 위한 것으로, 특정 콘텐츠가 인공지능을 사용하여 제작되었음을 보여주는 메타데이터를 추가하는 과정입니다.

ABC 뉴스와의 인터뷰에서 틱톡의 운영 및 신뢰·안전 책임자인 아담 프레서는 "우리 사용자들과 크리에이터들은 AI가 그들의 창의성과 시청자들과 소통하는 능력에 미칠 수 있는 영향에 대해 매우 기대하고 있습니다." 라고 말하며, "동시에 우리는 사람들이 무엇이 사실이고 무엇이 허구인지 구별할 수 있도록 돕고 싶습니다."라고 덧붙였습니다.

틱톡에 따르면 9월 이후 3,700만 명이 넘는 틱톡 콘텐츠 제작자들이 특수 효과를 위해 라벨링 도구를 사용했습니다.

업계 전반의 인정과 협력

틱톡의 발표는 다른 거대 IT 기업들이 취한 조치와 맥락을 같이합니다. 이러한 움직임은 메타(Meta) 감독위원회가 틱톡에 해당 콘텐츠 처리 정책을 재검토할 것을 권고한 직후에 나왔습니다. 또한, 가디언(The Guardian)에 따르면 유튜브는 최근 음반사가 인공지능이 생성한 아티스트 목소리가 포함된 영상의 삭제를 요청할 수 있도록 하는 규칙을 도입했는데, 이는 다른 기업들이 미국 대선 전에 가짜 뉴스 확산을 막기 위해 인공지능 콘텐츠를 탐지하고 표시하는 데 활용하는 조치입니다.

최근 마이크로소프트의 지원을 받는 인공지능 기업 오픈아이디(OpenAI)도 이 이니셔티브에 동참하여 디지털 이미지가 인공지능의 결과물인지dent도구를 공개했습니다. 오픈아이디는 인기 이미지 생성 도구인 Dall-E와 ChatGPT를 개발한 회사입니다. 또한 틱톡이 인공지능 관련 보증을 제공하려는 움직임은 미국 정부가 틱톡에 중국 소유주와의 관계를 끊거나 미국 내 서비스 금지를 선택하라는 법적 최후통첩을 내린 시점과 맞물립니다.

프레서에 따르면, "동료들과 협력하여 플랫폼 전반에 걸쳐 콘텐츠에 라벨을 붙임으로써, 크리에이터들이 AI 생성 콘텐츠를 책임감 있게 탐색할 수 있도록 지원하는 동시에, 틱톡에서 금지된 유해하거나 오해의 소지가 있는 AI 생성 콘텐츠를 계속해서 억제하고 있습니다." 

틱톡은 AI 라벨링 외에도 미디어 리터러시 정보를 제공할 계획입니다. 이를 위해 미디어와이즈(MediaWise) 및 위트니스(Witness)와 협력하여 기본적인 미디어 리터러시 능력을 다룬 영상 12편을 올해 안에 공개할 예정입니다.

이와 더불어, 틱톡의 AIGC 라벨이 콘텐츠에 더 많은 맥락을 제공하는 데 어떻게 도움이 되는지 보여줄 것입니다. 이 프로젝트의 주요 동기는 다양한 산업 분야에서 AI가 빠르게 도입되고 있다는 점입니다. AI가 더욱 사실적인 콘텐츠를 제작하는 능력이 향상됨에 따라, AI를 이용한 딥페이크의 위험성 또한 커지고 있습니다.