TikTok enfrenta escrutinio por la prueba de un placebo de la función de restablecimiento del algoritmo

Miles de usuarios de TikTok que activaron una herramienta de seguridad, Algo Refresh, recibieron una versión que no funcionaba, según las alegaciones en la demanda presentada por la fiscal general de Nueva York, Letitia James, desclasificada el miércoles, según Reuters.

Algo Refresh está diseñado para restablecer las recomendaciones de un usuario cuando desea alejarse de videos no deseados o dañinos.

En lo que la demanda denomina experimentos fantasma o placebo, los usuarios del grupo placebo recibieron la confirmación de que Algo Refresh se había activado, aunque sus recomendaciones no se restablecieron, alega la demanda.

Nueva York dice que los usuarios fueron engañados

La demanda alega que TikTok asegura a los usuarios que la seguridad es una prioridad máxima y que la plataforma es adecuada para niños y adolescentes, mientras oculta deliberadamente herramientas de seguridad a ciertos grupos, incluidos los usuarios que habían buscado específicamente evitar contenido dañino.

Según la demanda, la empresa había engañado a los usuarios sobre la funcionalidad de Algo Refresh, que en realidad era un restablecimiento temporal del algoritmo utilizado para las recomendaciones.

TikTok continuó ejecutando los experimentos con miles de usuarios durante todo 2023, según el escrito judicial, comparando a quienes usaban la función con quienes no, analizando cuánto tiempo pasaban los usuarios en la plataforma y cómo la configuración impactaba en los ingresos publicitarios.

Un portavoz declaró que la compañía realiza mejoras continuas y, al igual que la mayoría de las empresas, prueba regularmente nuevos productos y funciones para validar la experiencia y comprender su funcionamiento en el mundo real.

TikTok ha negado ampliamente las alegaciones de Nueva York en los documentos judiciales y afirma que mantener seguros a los usuarios jóvenes es una prioridad.

Empleado de TikTok advirtió que la prueba placebo podría inducir a error a los usuarios

Según la demanda, un gerente de producto de Bienestar Digital le dijo a sus colegas que las pruebas placebo en Algo Refresh eran problemáticas y que los usuarios podrían considerarlas engañosas.

«Esta función se trata de transparencia y control del algoritmo», escribió la persona en un chat interno. «Un grupo placebo entra en conflicto total con eso». La empresa realizó las pruebas de todos modos.

Las acusaciones surgieron después de que la demanda se desclasificara

El Fiscal General James presentó el caso en 2024, mientras que las últimas acusaciones se incluyeron en una demanda modificada presentada bajo secreto judicial a finales de agosto de 2026. Solo se hicieron públicas después de que un juez ordenara desclasificar la demanda.

Según Reuters, muchos documentos en otras demandas estatales contra TikTok también han sido mantenidos bajo secreto o altamente censurados en un intento por mantener en secreto la información sobre las prácticas internas de la empresa.

La demanda desclasificada también alega otro experimento en el que TikTok aparentemente desactivó algunas de sus medidas de seguridad para usuarios seleccionados al azar. Según investigaciones internas reportadas en la demanda, uno de los adolescentes de Nueva York elegido como parte de esta prueba se suicidó, lo que mostró que su cuenta estaba llena de contenido sobre suicidio y autolesión.

El experimento también llamó la atención en Washington, donde en agosto, la senadora Marsha Blackburn y Richard Blumenthal lo calificaron de "perverso". Los dos senadores plantearon 13 preguntas a TikTok sobre la prueba para entender cómo fue diseñada, quién la aprobó y las supuestas salvaguardas existentes.

La demanda de Nueva York es parte de un desafío legal mucho más amplio. Más de 20 estados han alegado que TikTok ha diseñado funciones para fomentar el uso compulsivo entre los jóvenes, a pesar de las exageradas afirmaciones de la empresa sobre sus medidas de seguridad.

Esa presión ya ha dado lugar a acuerdos. En septiembre, TikTok aceptó pagar hasta 300 millones de dólares a Alabama y realizar cambios en cómo funciona su plataforma para los adolescentes, resolviendo el primer caso estatal que estaba programado para ir a juicio.