틱톡, AI 생성 콘텐츠에 라벨 도입

인기 단편 동영상 앱인 틱톡(TikTok) 사례들 중, 전 세계 선거에서 인공지능(AI) 기반 콘텐츠의 문제적인 영향을 다루기 위해 적극적인 조치를 취하는 사례들이 RikTok에서 나타나고 있습니다. 플랫폼은 외부 플랫폼에서 가져온 AI 생성 콘텐츠(AIGC)의 자동 라벨링을 위한 알고리즘을 설정합니다. 이 조치를 통해 사용자가 찾고 참조하는 정보에는 플랫폼에서 보는 콘텐츠의 종류에 대한 더 명확한 배경이 포함되어 투명성이 향상됩니다.

메타의 선례를 따름 

페이스북, 인스타그램, 스레드를 포함한 메타 플랫폼의 일원인 틱톡의 최신 업데이트는 프라이버시 규제 기관들을 놀라게 할 수 있으며, 그들의 비밀이 가족을 넘어 다른 사람들에게까지 드러나는 가운데 틱톡이 젊은 층 사이에서 빠르게 확산되는 것을 막을 수 있습니다. 그러나 메타의 경우, AI 라벨링 및 AI 생성 이미지 감지가 동일한 기능을 수행할 수 있는 외부 AI 시스템보다 먼저 구현되었습니다. 산업 리더들은 이제 딥페이크 기술이 실제 인간 캐릭터와 유사한 비디오와 같은 기만적 시각 콘텐츠를 생성하는 데 광범위하게 사용되면서 틱톡의 발표에 따른 관련 위험의 인간화에 더 기울고 있습니다.

틱톡은 관련 업계 파트너들과 협력하여 많은 이들의 안전에 기여해 왔습니다. 아도비의 Credentials 콘텐츠에 대한 조직의 지원은 이 기술이 플랫폼의 콘텐츠를 보호하고 어떠한 방식으로도 변경되지 않도록 하는 데 도움이 된다는 것을 입증합니다. 또한 앱은 콘텐츠 소유권 및 진위성을 위한 러시아의 연합인 C2PA와 제휴하여 신뢰성과 진위성에 대한 의도를 더욱 강화했습니다.

투명성과 진위성 강화

틱톡은 성명을 통해 대중은 콘텐츠가 인간이 생성했는지 아니면 인공지능에 의해 생성되었는지 알 권리가 있으며, 이로 인해 AI 생성 콘텐츠에 라벨을 붙이는 것이 매우 중요해졌다고 밝혔습니다. 플랫폼은 이제 AIGC에 추가된 AI 효과에 라벨을 붙이고 있습니다. 1년 이상 동안 그들은 또한 크리에이터들이 자신의 AIGC를 더 현실적으로 라벨링하도록 요구해 왔습니다. 전체 과정의 핵심 단계로서, 회사는 출시 이후 수백만 명의 콘텐츠 크리에이터가 사용해 온 포괄적으로 접근 가능한 애플리케이션을 만들었습니다. 

이러한 가이드라인의 시행은 전 세계 선거에서 AI 기반 콘텐츠의 오용에 대한 prevailing 한 우려와 매우 잘 부합합니다. 유권자를 기만하고 오정보를 제공하는 콘텐츠를 허용하는 것이 정당화될 수 있는지에 대한 질문은 다시 한번 매우 관련성이 높아졌으며, 이는 민주적 과정을 보호하기 위한 조치 도입의 필요성을 다시 한번 강조합니다. 

업계 전반의 협력 

틱톡은 선거 개입에서 AI 남용과 싸우기 위해 상위 기술 기업들이 사용하는 더 큰 접근 방식과 완전히 일치하도록 노력하고 있습니다. 2023년, 아마존, 구글, 메타, 마이크로소프트, 틱톡과 같은 20개 최첨단 기술 기업 중 9개는 전 세계 AI 영향 선거로부터 민주주의를 보호하는 법안을 승인했습니다. 주요 조치에는 AI 콘텐츠의 추적성을 막기 위해 적용하고 사용해야 하는 워터마킹 및 기타 식별 신호가 포함됩니다. 

디지털 지형은 끊임없이 변화하고 있으며, 틱톡을 비롯한 많은 다른 미디어 outlets도 예외는 아닙니다. 미디어 플랫폼의 이미지를 흐릴 수 있는 중요하고 필수적인 문제에 대해 신속하게 행동하고 해결책을 찾는 것은 우리 팀의 주요 과제입니다. 생성된 콘텐츠의 AI 라벨링 도입과 민간 부문과의 긴밀한 협력을 통해 틱톡은 크리에이터와 사용자에게 신뢰할 수 있고 유리한 환경을 개발하기 위해 노력하고 있습니다. 약 1,000개 장소에서 캠페인이 진행 중이며, AIsup 농장은 경각심을 불러일으킬 정도로 성장했으며, 민주적 과정 감독은 세계 공동체가 지금 행동해야 할 문제입니다.