TikTok fait face à des critiques suite à un test placebo de sa fonctionnalité de réinitialisation d'algorithme

Selon les allégations contenues dans le procès intenté par le procureur général de l'État de New York, Letitia James, dont la plainte modifiée a été déclassifiée mercredi, des milliers d'utilisateurs de TikTok qui ont activé un outil de sécurité, Algo Refresh, se sont vu attribuer une version non fonctionnelle. selon Reuters.

Algo Refresh est conçu pour réinitialiser les recommandations d'un utilisateur lorsqu'il souhaite s'éloigner de vidéos indésirables ou nuisibles.

Dans ce que le procès qualifie d'expériences fantômes ou placebo, les utilisateurs du groupe placebo ont reçu une confirmation indiquant qu'Algo Refresh avait été activé, alors que leurs recommandations n'avaient pas été réinitialisées, selon les allégations du procès.

L'État de New York affirme que les utilisateurs ont été induits en erreur

Le procès allègue que TikTok assure aux utilisateurs que la sécurité est une priorité absolue et que la plateforme est adaptée aux enfants et aux adolescents, tout en retenant sciemment des outils de sécurité de certains groupes, y compris des utilisateurs qui avaient spécifiquement cherché à éviter le contenu nuisible.

Selon le procès, l'entreprise avait induit les utilisateurs en erreur quant au fonctionnement d'Algo Refresh, qui consistait en réalité à une réinitialisation temporaire de l'algorithme utilisé pour les recommandations.

TikTok a continué à mener des expériences sur des milliers d'utilisateurs tout au long de 2023, selon le dépôt de dossier judiciaire, en comparant ceux qui utilisaient la fonctionnalité et ceux qui ne l'utilisaient pas, afin d'analyser le temps passé par les utilisateurs sur la plateforme et l'impact de cette configuration sur les revenus publicitaires.

Un porte-parole a déclaré que l'entreprise apporte des améliorations continues et que, comme la plupart des sociétés, elle teste régulièrement de nouveaux produits et fonctionnalités pour valider l'expérience utilisateur et comprendre leur fonctionnement dans la réalité.

TikTok a largement nié les allégations de l'État de New York dans ses dépôts judiciaires et affirme que la sécurité des jeunes utilisateurs est une priorité.

Un employé de TikTok a mis en garde contre le risque que le test placebo induise les utilisateurs en erreur

Selon le procès, un responsable produit du service Bien-être numérique aurait indiqué à ses collègues que les tests placebo sur Algo Refresh posaient problème et que les utilisateurs pourraient les juger trompeurs.

« Cette fonctionnalité vise la transparence et le contrôle de l'algorithme », a-t-il écrit dans un chat interne. « Un groupe placebo va complètement à l'encontre de cet objectif. » L'entreprise a néanmoins mené ces tests.

Les allégations ont émergé après que la plainte a été déclassifiée

Le procureur général James a déposé l'affaire en 2024, tandis que les dernières allégations figuraient dans une plainte modifiée déposée sous scellés à la fin août 2026. Elles n'ont été rendues publiques qu'après qu'un juge a ordonné la levée des scellés.

Selon Reuters, de nombreux documents dans d'autres poursuites intentées par des États contre TikTok ont également été maintenus sous scellés ou fortement censurés dans le but de garder secrètes les informations concernant les pratiques internes de l'entreprise.

La plainte déclassifiée allègue également une autre expérience au cours de laquelle TikTok aurait désactivé certaines de ses mesures de sécurité pour certains utilisateurs choisis au hasard. L'un de ces adolescents new-yorkais, sélectionné dans le cadre de ce test, s'est donné la mort, selon les enquêtes internes rapportées dans la plainte, qui ont montré que son compte était rempli de contenus liés au suicide et aux automutilations.

Cette expérience avait également attiré l'attention à Washington, où, en août, les sénateurs Marsha Blackburn et Richard Blumenthal l'ont qualifiée de « perverse ». Les deux sénateurs ont posé treize questions à TikTok concernant ce test afin de comprendre comment il avait été conçu, qui l'avait approuvé et quelles étaient les supposées garanties mises en place.

Le procès intenté par New York s'inscrit dans une contestation juridique bien plus large. Plus de 20 États ont allégué que TikTok a conçu des fonctionnalités destinées à encourager l'usage compulsif chez les jeunes, malgré les affirmations exagérées de l'entreprise concernant ses mesures de sécurité.

Cette pression a déjà conduit à des règlements. En septembre, TikTok a accepté de verser jusqu'à 300 millions de dollars à l'Alabama et d'apporter des modifications au fonctionnement de sa plateforme pour les adolescents, mettant ainsi fin au premier des cas prévus pour un procès.