틱톡, 허위 정보 퇴치를 위한 AI 콘텐츠 태그 도입

인기 동영상 공유 플랫폼인 틱톡(TikTok)은 다른 플랫폼에서 제출된 AI 생성 콘텐츠에 자동으로 태그를 적용하여 허위 정보를 퇴치할 예정입니다. 굿 모닝 아메리카(Good Morning America)에서의 발표에서 틱톡은 다른 플랫폼에서 생성된 AI 콘텐츠를 자동으로 라벨링할 의도라고 밝혔습니다. 이 조치는 플랫폼이 사용자들 간 투명성과 무결성을 장려하기 위한 전략의 일부입니다.

틱톡의 사용자 안전에 대한 약속

틱톡은 콘텐츠 기원과 진위성 연합(Coalition for Material Provenance and Authenticity, C2PA)의 회원이 된 첫 번째 동영상 공유 플랫폼이라고 밝혔습니다. 이는 특정 콘텐츠 조각이 인공지능을 사용하여 생성되었음을 보여주는 메타데이터 도입 과정을 통해 사용자가 인공지능이 생성한 콘텐츠를 식별할 수 있도록 하는 것을 목표로 하는 ‘콘텐츠 크레덴셜(Content Credential)’ 기술을 통해 이루어집니다.

ABC 뉴스와의 인터뷰에서 틱톡의 운영 및 신뢰 안전 담당 책임자 아담 프레서(Adam Presser)는 “우리의 사용자와 크리에이터들은 AI와 그것이 그들의 창의성과 관객과 연결하는 능력에 가져다줄 수 있는 것에 대해 매우.excited합니다,”라고 말하며 추가로 “동시에 우리는 사람들이 사실과 허구를 이해할 수 있는 능력을 갖추도록 보장하고 싶습니다.”라고 덧붙였습니다.

틱톡에 따르면, 9월 이후 3,700만 명 이상의 틱톡 콘텐츠 크리에이터가 특수 효과를 위해 라벨링 도구를 사용했습니다.

전 산업적 인정과 협력

틱톡의 발표는 다른 기술 거인들이 취한 조치와 부합합니다. 이 발전은 메타(Meta)의 감독 위원회가 해당 자료 처리에 대한 정책을 재고하도록 회사에 조언한 직후 이루어졌습니다. 또한 가디언(The Guardian)에 따르면, 유튜브(YouTube)는 최근 AI가 생성한 아티스트의 음성을 포함한 비디오 삭제를 레이블사에 요청할 수 있는 일부 규칙을 도입했으며, 다른 회사들도 미국 선거 전 가짜 뉴스를 방지하기 위해 AI 콘텐츠 감지 및 플래깅을 따르고 있습니다.

최근 인기 이미지 생성기 Dall-E와 ChatGPT를 만든 마이크로소프트 지원 AI 기업인 오픈AI도 이 이니셔티브에 합류하여 디지털 이미지가 AI의 결과물인지 식별하도록 설계된 도구를 공개했습니다. 또한, AI에 대한 확신을 제공하려는 틱톡의 움직임은 중국 소유주를 포기하거나 미국에서 금지되지 않도록 하는 법적 최후통첩과 맞물려 있습니다.

프레서에 따르면, “플랫폼 전반에 걸쳐 콘텐츠를 라벨링하기 위해 동료들과 파트너십을 맺음으로써, 우리는 크리에이터들이 책임감 있게 AI 생성 콘텐츠를 탐색할 수 있도록 쉽게 만드는 동시에 틱톡에서 금지된 유해하거나 오해의 소지가 있는 AIGC를 계속 억제하고 있습니다.”

AI 라벨링 외에도 틱톡은 미디어 리터러시 정보를 통합할 예정입니다. 이들은 미디어위즈(MediaWise)와 위트니스(Witness)와 협력하여 이를 만들었습니다. 그들의 목표는 올해 12편의 비디오를 출시하는 것입니다. 이 비디오들은 기초적인 미디어 리터러시 기술을 다룰 것입니다.

이 외에도 틱톡의 AIGC 라벨이 콘텐츠에 더 많은 맥락을 제공하는 데 어떻게 도움이 되는지 보여줄 것입니다. 이 이니셔티브의 주요 동력은 다양한 산업에서의 AI 급속한 채택입니다. 더 진정성 있는 콘텐츠를 생성하는 AI 능력의 부상과 함께 AI로 인한 딥페이크의 위험도 증가하고 있습니다.