틱톡, 알고리즘 재설정 기능의 위약 테스트로 비판에 직면

수천 명의 틱톡 사용자가 안전 도구인 '알고 리프레시'를 활성화했지만, 수요일 공개된 레티시아 제임스 뉴욕주 검찰총장의 소송에 따르면 작동하지 않는 버전을 받은 것으로 알려졌습니다. 로이터 통신 보도.

알고 리프레시는 원치 않거나 해로운 동영상으로부터 벗어나고 싶을 때 사용자의 추천 피드를 초기화하도록 설계되었습니다.

소송은 이를 '고스트' 또는 '플라세보' 실험이라고 부르며, 플라세보 그룹의 사용자에게는 추천 피드가 초기화되지 않았음에도 불구하고 알고 리프레시가 활성화되었다는 확인 메시지를 받았다고 주장합니다.

뉴욕주는 사용자가 기만당했다고 밝혔습니다.

소송은 틱톡이 안전을 최우선으로 여기며 플랫폼이 어린이와 청소년에게 적합하다고 사용자에게 확신시키면서도, 해로운 콘텐츠를 피하고자 특별히 요청한 특정 그룹을 포함해 일부 그룹에게는 안전 도구를 의도적으로 숨겼다고 주장합니다.

소송에 따르면, 해당 기업은 알고리즘 추천에 사용되는 알고리즘의 임시 초기화에 불과한 'Algo Refresh'의 기능에 대해 사용자를 기만했습니다.

제출된 서류에 따르면 TikTok은 2023년 내내 수천 명의 사용자를 대상으로 실험을 계속했으며, 이 기능을 사용하는 사용자들과 사용하지 않는 사용자들을 비교하여 사용자가 플랫폼에서 보낸 시간과 구성이 광고 수익에 미치는 영향을 분석했습니다.

대변인은 회사가 지속적인 개선을 하고 있으며, 대부분의 기업처럼 새로운 제품과 기능을 테스트하여 경험을 검증하고 실제 환경에서의 작동 방식을 이해하기 위해 정기적으로 테스트를 진행한다고 밝혔습니다.

TikTok은 법원 제출 서류를 통해 뉴욕주의 주장을 광범위하게 부인하며, 젊은 이용자들의 안전을 최우선으로 한다고 밝혔습니다.

TikTok 직원이 위약 효과(placebo) 테스트가 사용자를 오도할 수 있다고 경고

디지털 웰빙(Digital Well Being)의 제품 관리자가 동료들에게 Algo Refresh에 대한 위약 효과 테스트는 문제가 있으며 사용자가 이를 오해할 수 있다고 말했었다고 소송은 주장합니다.

“이 기능은 알고리즘 투명성과 제어에 관한 것입니다.”라고 내부 채팅에서 작성한 사람은 말했습니다. “위약 효과 그룹은 그와 완전히 충돌합니다.” 회사는 관계없이 테스트를 진행했습니다.

고발장이 공개된 후 이러한 혐의가 드러났다

제임스 주 검찰총장은 2024년에 이 사건을 제기했으며, 최신 혐의는 2026년 8월 말에 밀고로 제출된 수정 고발장에 포함되었다. 이는 판사가 고발장의 공개를 명령한 후에야 세상에 알려졌다.

로이터 통신에 따르면, 틱톡을 상대로 한 다른 주 소송들의 많은 문서들도 회사의 내부 관행에 대한 정보를 숨기려는 시도로 인해 기밀 유지되거나 크게 삭제 처리되었다.

공개된 고발장은 또 다른 실험도 주장하고 있는데, 틱톡이 무작위 사용자를 대상으로 일부 안전 조치를 비활성화한 것으로 보인다. 소송에서 보고된 내부 조사에 따르면, 이 테스트 대상자로 선정된 뉴욕 출신의 한 청소년은 자살했으며, 그의 계정은 자살과 자기 손상 콘텐츠로 가득 차 있었다.

이 실험은 워싱턴에서도 주목을 받았으며, 마샤 블랙번 상원의원과 리처드 블룸엔탈 상원의원은 8월에 이를 '추악하다'고 표현했다. 두 의원은 이 실험이 어떻게 설계되었는지, 누가 승인했는지, 그리고 어떤 안전 장치가 마련되어 있었는지 이해하기 위해 틱톡에 13가지 질문을 던졌다.

뉴욕주의 소송은 훨씬 더 광범위한 법적 도전의 일부입니다. 20개 이상의 주가 TikTok가 안전 조치에 대한 과장된 주장에도 불구하고 청소년들의 강박적 사용을 조장하도록 기능을 설계했다고 주장했습니다.

이러한 압력은 이미 합의에 도달했습니다. 9월, TikTok는 알라바마주에 최대 3억 달러를 지불하고 청소년을 위한 플랫폼 작동 방식을 변경하는 데 동의했으며, 이는 재판일로 예정되었던 주별 사건 중 첫 번째를 해결한 것입니다.