TikTok、アルゴリズムリセット機能のプラセボテストで審査の対象に

ニューヨーク州司法長官レティシア・ジェームズ氏が水曜日に公開した訴訟の告発によれば、安全性ツール「Algo Refresh」を有効にした数千人のTikTokユーザーが、機能しないバージョンを受け取っていたことが per Reuters.

Algo Refreshは、ユーザーが望ましくないまたは有害な動画から離れたい場合に、推薦フィードをリセットするために設計されています。

訴訟で「ゴースト実験」や「プラセボ実験」と呼ばれるものにおいて、プラセボ群のユーザーには、推薦フィードがリセットされていないにもかかわらず、Algo Refreshが有効化されたという確認メッセージが表示されていたと訴訟は主張しています。

ニューヨーク州側：ユーザーを誤解させた

訴訟では、TikTokが安全性を最優先事項としており、子供やティーンエイジャーに適したプラットフォームであるとユーザーに保証しながら、有害なコンテンツを回避したいと明示的に希望していたユーザーを含む特定のグループから安全対策ツールを意図的に隠蔽していたと主張されています。

訴訟によると、同社はAlgo Refreshの機能についてユーザーを誤解させました。これは実際にはレコメンデーションに使用されるアルゴリズムの一時的なリセットでした。

提出された書類によれば、TikTokは2023年中を通じて何千人ものユーザーを対象に実験を継続し、この機能を使用しているユーザーとそうでないユーザーを比較しました。その目的は、ユーザーがプラットフォームで費やす時間や、設定が広告収益に与える影響を把握することでした。

spokesperson（報道担当者）は、同社が継続的な改善を行っており、他の多くの企業と同様に、新しい製品や機能を定期的にテストして体験を検証し、現実世界での動作を理解していると述べました。

TikTokはニューヨーク州の訴えを法廷提出文書で全面的に否定し、若年層のユーザーの安全確保を最優先事項としていると述べています。

TikTokの従業員がプラセボ試験がユーザーを誤解させる可能性があると警告

デジタルウェルビーイングのプロダクトマネージャーが、アルゴリズムリフレッシュにおけるプラセボテストは問題があり、ユーザーには誤解を招く可能性があることを同僚に伝えた、と訴訟は主張している。

「この機能はアルゴリズムの透明性と制御に関するものだ」とその人物は内部チャットで書き込んだ。「プラセボグループはそれと完全に矛盾する」。同社はそれでもテストを実施した。

これらの告発は、訴状が公開された後に浮上した。

ジェームズ司法長官は2024年に事件を起こしたが、最新の告発事項は2026年8月末に封印状態で提出された修正訴状に含まれていた。これらは裁判官が訴状の公開を命じて初めて公になった。

ロイター通信によると、TikTokに対する他の州の訴訟でも、企業の内部慣行に関する情報を秘密に保とうとする試みから、多くの文書が封印または大幅に編集されている。

密封された訴状では、TikTokがランダムなユーザーに対して安全対策のいくつかを無効にしたとされる別の実験についても告発されている。訴訟で報告された内部調査によると、このテストの対象となったニューヨーク在住の1人のティーンエイジャーは自殺し、そのアカウントには自殺や自傷行為に関するコンテンツが溢れていたことが示された。

この実験はワシントンでも注目を集めており、8月にはマーシャ・ブラックバーン上院議員とリチャード・ブルメンソール上院議員がこれを「悪辣」と表現した。両議員は、実験の設計方法、承認者、および設置されていたとされる安全対策を理解するために、TikTokに対して13の質問を行った。

ニューヨーク州の訴訟は、より広範な法的争いの一部である。20州以上が、同社の安全対策に関する誇大宣伝にもかかわらず、TikTokが青少年の間で強迫的な利用を促す機能を開発していると主張している。

こうした圧力により、すでに和解が成立している。9月、TikTokはアラバマ州に対して最大3億ドルを支払うこと、およびプラットフォームのティーンエイジャー向け運用を変更することに合意し、審理予定だった州ごとの訴訟のうち最初の一件を解決した。