틱톡, AI 생성 콘텐츠에 라벨 기능 도입

인기 단편 동영상 앱인 틱톡을 비롯한 여러 플랫폼 중에서도,matic 영향 인공지능(AI) 기반 콘텐츠가 세계 선거에 미치는matic 분류하는 알고리즘을 구축했습니다. 이를 통해 사용자들이 찾고 참고하는 정보는 플랫폼에서 접하는 콘텐츠의 종류에 대한 명확한 배경 정보와 함께 제공되어 투명성이 향상될 것입니다. 

이번 계획은 메타의 선례를 따르는 것입니다 

페이스북, 인스타그램, 스레드 등을 소유한 메타 플랫폼(Meta Platforms) 산하의 틱톡이 최근 발표한 업데이트는 개인정보 보호 규제 당국을 놀라게 할 수 있으며, 젊은층 사이에서 개인 정보가 가족 구성원을 넘어 타인에게까지 노출되는 틱톡의 급속한 확산을 막는 데 도움이 될 수 있습니다. 하지만 메타 플랫폼은 외부 AI 시스템보다 먼저 AI 기반 이미지 라벨링 및 탐지 기능을 구현했습니다. 업계 리더들은 이제 딥페이크 기술처럼 실제 사람과 매우 흡사한 영상을 제작하는 데 널리 사용되는 생성형 AI 기술의 위험성을 틱톡이 보다 인간적인 관점에서 설명하려는 움직임에 주목하고 있습니다.

틱톡은 많은 사람들의 안전을 위해 관련 업계 관계자들과 협력해 왔습니다. 어도비의 콘텐츠dent기술 지원은 해당 기술이 플랫폼 내 콘텐츠를 보호하고 변조를 방지하는 데 도움이 된다는 것을 보여줍니다. 또한, 틱톡은 콘텐츠 소유권 및 진위성 확보를 위한 러시아 연합체인 C2PA와 협력하여 신뢰성과 진정성을 더욱 강화하고 있습니다.

투명성과 진정성 강화

틱톡은 성명을 통해 대중은 콘텐츠가 사람이 만든 것인지 인공지능(AI)으로 생성된 것인지 알 권리가 있으며, 따라서 AI 생성 콘텐츠에 라벨을 붙이는 것이 매우 중요하다고 밝혔습니다. 틱톡은 이제 AI 생성 콘텐츠에 추가된 AI 효과에 라벨을 부착하고 있습니다. 또한 1년 넘게 콘텐츠 제작자들에게 AI 생성 콘텐츠에 대한 더욱 현실적인 라벨링을 요구해 왔습니다. 이러한 과정의 핵심 단계로, 틱톡은 누구나 쉽게 사용할 수 있는 애플리케이션을 개발했으며, 출시 이후 수백만 명의 콘텐츠 제작자들이 이를 활용하고 있습니다. 

이러한 지침들이 같은 시기에 제정된 것은 전 세계 선거에서 인공지능 기반 콘텐츠가 오용될 가능성에 대한 우려가 커지고 있는 상황과 매우 밀접한 관련이 있습니다. 유권자를 속이고 잘못된 정보를 제공하는 콘텐츠를 허용하는 것이 정당한지에 대한 질문이 매우 중요한 문제로 대두되었으며, 이는 민주적 절차를 보호하기 위한 조치를 도입해야 할 필요성을 다시 한번 강조합니다. 

업계 전반의 협력 

틱톡은 인공지능(AI)을 이용한 선거 개입 악용에 맞서기 위해 주요 기술 기업들이 사용하는 광범위한 접근 방식에 발맞춰 적극적으로 대응하고 있습니다. 2023년에는 아마존, 구글, 메타, 마이크로소프트, 틱톡 등 세계 20대 기술 기업 중 9곳이 AI를 이용한 선거 개입으로부터 민주주의를 보호하기 위한 조치를 승인했습니다. 주요 조치로는 워터마크 삽입 및 기타dent신호를 활용하여 AI 콘텐츠의 trac가능성을 차단하는 것이 있습니다. 

디지털 환경은 끊임없이 변화하고 있으며, 틱톡을 비롯한 많은 미디어 플랫폼도 예외는 아닙니다. 미디어 플랫폼의 이미지를 해칠 수 있는 중요하고 필수적인 문제에 신속하게 대응하고 해결책을 찾는 것이 우리 팀의 최우선 과제입니다. 틱톡은 콘텐츠에 AI 라벨링을 도입하고 민간 부문과 긴밀히 협력하여 크리에이터와 사용자 모두에게 신뢰할 수 있고 유리한 환경을 조성하기 위해 노력하고 있습니다. 약 1,000곳에서 캠페인이 진행되고 있으며, AIsup의 확산은 심각한 수준에 이르렀고, 민주적 절차 감독은 전 세계가 지금 당장 해결해야 할 문제입니다.