TikTok sotto esame per il test placebo della funzione di reset dell'algoritmo

Migliaia di utenti TikTok che hanno attivato uno strumento di sicurezza, Algo Refresh, hanno ricevuto una versione non funzionante, secondo le accuse contenute nella causa intentata dall’Avvocato Generale dello Stato di New York Letitia James, resa pubblica mercoledì. secondo Reuters.

Algo Refresh è progettato per resettare i suggerimenti di un utente quando desidera allontanarsi da video indesiderati o dannosi.

In quello che la causa definisce esperimenti fantasma o placebo, gli utenti del gruppo placebo hanno ricevuto la conferma che Algo Refresh era stato attivato, anche se i loro suggerimenti non erano stati resettati, sostiene la denuncia.

New York afferma che gli utenti sono stati ingannati

La causa sostiene che TikTok assicuri agli utenti che la sicurezza è una priorità assoluta e che la piattaforma sia adatta a bambini e adolescenti, mentre nasconde consapevolmente strumenti di sicurezza a determinati gruppi, inclusi gli utenti che avevano specificamente cercato di evitare contenuti dannosi.

Secondo la causa, l'azienda aveva ingannato gli utenti riguardo al funzionamento di Algo Refresh, che in realtà consisteva in un reset temporaneo dell'algoritmo utilizzato per le raccomandazioni.

TikTok ha continuato a eseguire esperimenti su migliaia di utenti durante tutto il 2023, come indicato nell'atto giudiziario, confrontando coloro che utilizzavano la funzione con coloro che non lo facevano, analizzando il tempo trascorso sulla piattaforma e l'impatto della configurazione sui ricavi pubblicitari.

Un portavoce ha dichiarato che l'azienda apporta miglioramenti continui e, come la maggior parte delle aziende, testa regolarmente nuovi prodotti e funzionalità per convalidare l'esperienza e comprendere come funzionano nel mondo reale.

TikTok ha smentito ampiamente le accuse dello Stato di New York nelle sue difese giudiziarie e afferma che la sicurezza dei giovani utenti è una priorità.

Dipendente TikTok avverte che il test placebo potrebbe fuorviare gli utenti

Secondo la denuncia, un product manager del dipartimento Digital Well Being avrebbe riferito ai colleghi che i test placebo su Algo Refresh erano problematici e che gli utenti potrebbero trovarli fuorvianti.

«Questa funzione riguarda la trasparenza e il controllo dell'algoritmo», ha scritto la persona in una chat interna. «Un gruppo placebo è in totale contrasto con questo obiettivo». L'azienda ha comunque eseguito i test.

Le accuse sono emerse dopo che la denuncia è stata resa pubblica

Il Procuratore Generale James ha presentato il caso nel 2024, mentre le più recenti accuse sono state incluse in una denuncia modificata presentata sotto sigillo alla fine di agosto 2026. Sono diventate pubbliche solo dopo che un giudice ha ordinato la divulgazione della denuncia.

Secondo Reuters, molti documenti presenti in altre cause legali intentate da diversi stati contro TikTok sono stati anch'essi tenuti sotto sigillo o fortemente censurati, nel tentativo di mantenere segreti i dettagli sulle pratiche interne dell'azienda.

La denuncia resa pubblica contiene inoltre l'allegazione di un altro esperimento in cui TikTok avrebbe disattivato alcune delle sue misure di sicurezza per utenti selezionati a caso. Secondo quanto riportato dalle indagini interne citate nella causa, uno dei teenager newyorkesi scelto per questo test si è tolto la vita, e gli account mostravano che era stato sommerso da contenuti legati al suicidio e all'autolesionismo.

L'esperimento ha attirato anche l'attenzione a Washington, dove a agosto i senatori Marsha Blackburn e Richard Blumenthal lo hanno definito "depravato". I due senatori hanno posto 13 domande a TikTok riguardo al test, per comprendere come fosse stato progettato, chi lo avesse approvato e quali fossero le presunte misure di salvaguardia adottate.

La causa intentata da New York fa parte di una sfida legale molto più ampia. Oltre 20 stati hanno sostenuto che TikTok ha progettato funzionalità volte a favorire un uso compulsivo tra i giovani, nonostante le affermazioni esagerate dell'azienda riguardo alle sue misure di sicurezza.

Questa pressione ha già portato ad accordi extragiudiziali. A settembre, TikTok ha accettato di pagare fino a 300 milioni di dollari all'Alabama e di apportare modifiche al funzionamento della sua piattaforma per gli adolescenti, risolvendo il primo dei casi statali che erano stati programmati per il processo.