틱톡, 플랫폼 내 가짜 AI 생성 광고 유포를 방조했다는 혐의 받아

틱톡이 플랫폼에서 가짜 AI 생성 광고를 조장했다는 비난을 받고 있습니다. 광고 수익에 크게 의존하는 이 플랫폼은 허위적이고 유해하며 대부분 AI가 생성한 광고가 증가하는 것을 방조하고 있다는 비판을 받고 있으며, 이러한 광고들은 허술한 필터를 점점 더 쉽게 통과하고 있습니다.

디지털화 시대에 광고는 대부분의 소셜 미디어 기업의 생명줄이 되었습니다. 이러한 광고들은 수십억 명의 사용자가 이용하는 플랫폼을 대상으로 하며, 메타, X, 틱톡, 유튜브와 같은 기업들에게 수익을 창출해 줍니다.

아일랜드 기업등록사무소(CRO)에 제출된 문서에 따르면, 틱톡은 자사 모델이 광고, 플랫폼 내 부가 서비스, 상품 판매를 결합하는 방식에 의존한다고 주장했습니다.

틱톡, 가짜 AI 생성 광고 조장 혐의로 고발당해

틱톡의 모회사인 바이트댄스는올해 인공지능(AI) 투자에 우선순위를 두었습니다. 올해 초 파이낸셜 타임스는 바이트댄스가 2025년까지 AI 칩에 약 120억 달러를 투자할 계획이라고 보도했습니다.

같은 기간 동안 플랫폼에서 AI가 생성한 콘텐츠의 인기가 높아졌고, 사용자들은 이를 광고에 활용하고 있습니다. 그러나 최근 몇 주 동안 급증 틱톡에는 가짜 또는 오해의 소지가 있는 제품 관련 광고가

예를 들어, 체중 감량 보조제 및 식욕 억제제 사용을 조장하는 가짜 광고가 플랫폼에서 증가했습니다. 이러한 광고에는 체중 감량 보조제로 판매되지만 실제 GLP-1 성분(오젬픽이나 문자로 같은 약물에 함유된 성분)을 함유하지 않은 GLP-1 패치 광고가 포함됩니다.

다른 광고들은 코르티솔 과다 분비로 인한 복부 팽만감과 높은 스트레스 수치로 인한 체중 증가를 치료한다고 주장합니다.

게다가 이러한 광고 중 상당수는 사용자를 복제 웹사이트로 유도하는데, 이 웹사이트들은 합법적인 온라인 사업체를 사칭하는 경우도 있습니다. 이러한 웹사이트들은 기만적이고 악의적인 목적으로 불법적으로 복제된 콘텐츠를 제공합니다.

이러한 틱톡 광고의 경우, 여러 유명 약국을 사칭하여 마치 잘 알려지고 신뢰받는 소매업체가 가짜 제품을 홍보하는 것처럼 보이게 만들었습니다.

소셜 미디어 플랫폼에서 인공지능 사용에 대한 안전장치 마련 요구

틱톡은 광고 정책에서 사용자 및 일반 대중의 안전과 진실성을 보호하기 위해 허위, 거짓, 기만적인 행위를 금지하고 있습니다. 또한, 이러한 행위를 포함한 정책 위반 행위는 계정 정지 또는 영구 차단으로 이어질 수 있다고 경고하고 있습니다.

건강 측면에서, 해당 플랫폼은 건강 위기에 기여할 수 있는 허위 정보에 맞서 싸우기 위한 조치도 취하고 있습니다.

"저희 커뮤니티가 정보에 입각한 건강 선택을 할 수 있도록 정확한 의료 정보에 접근할 수 있도록 하기 위해, 심각한 질병이나 공중 보건 문제와 관련된 허위 정보, 또는 개인에게 심각한 해를 끼치거나 사람들이 적절한 의료 서비스를 받는 것을 막을 수 있는 허위 정보를 삭제합니다."라고 회사는 밝혔습니다.

틱톡은 자체 정책을 시행하고 있음에도 불구하고, 가짜 제품을 홍보하는 AI 생성 광고가 여전히 만연해 있습니다.

최근 회사가 인공지능(AI)에 투자하면서 이제 애플리케이션에서 자체 개발한 전용 도구를 사용하여 이러한 광고를 제작할 수 있게 되었습니다. 회사는 사용자들이 "틱톡 비즈니스" 플랫폼을 활용하여 마케팅 캠페인을 진행할 수 있도록 지원하며, 광고 도구, 비즈니스 계정 기능, 협업 및 마케팅 전략.

사용자가 작업을 수행하는 데 도움을 주기 위해 플랫폼에는 사용자가 판매하려는 상품이나 서비스를 기반으로 광고를 제작하고 공유할 수 있도록 지원하는 챗봇 도우미가 있습니다.

이번 사안에 대해 마이클 맥그래스 EU 민주주의·정의·법치·소비자 보호 담당 집행위원은 EU에는 소셜 미디어 전반에 걸친 인공지능 사용과 관련하여 규정이 마련되어 있다고 언급했습니다.

맥그래스 씨는 “안전장치가 필요하다”며 “최근 법에 대한 새로운 개정안을 제안했고, 적절한 균형을 찾고자 한다. 훌륭한 규제 체계는 마련되어 있지만, 그 규정이 제대로 시행되도록 해야 한다”고 말했다.