TikTok подвергается критике за тестирование функции сброса алгоритма с использованием плацебо

Согласно утверждениям, изложенным в иске генерального прокурора Нью-Йорка Летитии Джеймс, который был рассекречен в среду, тысячи пользователей TikTok, включивших инструмент безопасности Algo Refresh, получили версию, которая не работала. сообщает Reuters.

Algo Refresh предназначен для сброса рекомендаций пользователя, когда он хочет избавиться от нежелательных или вредоносных видео.

Как указано в иске, в рамках так называемых «призрачных» или плацебо-экспериментов пользователи из группы плацебо получали подтверждение активации Algo Refresh, хотя их рекомендации не сбрасывались.

Нью-Йорк заявляет, что пользователей ввели в заблуждение

Исковое заявление утверждает, что TikTok заверяет пользователей в том, что безопасность является главным приоритетом и что платформа подходит для детей и подростков, при этом сознательно скрывая инструменты безопасности от определенных групп, включая тех, кто специально стремился избежать вредного контента.

Согласно иску, компания ввела пользователей в заблуждение относительно функциональности Algo Refresh, которая на самом деле представляла собой временный сброс алгоритма, используемого для рекомендаций.

По данным заявления, TikTok продолжал проводить эксперименты с тысячами пользователей в течение 2023 года, сравнивая тех, кто использовал эту функцию, и тех, кто не пользовался ею, анализируя время, проведенное пользователями на платформе, а также влияние конфигурации на рекламные доходы.

Представитель компании заявил, что она постоянно вносит улучшения и, как и большинство компаний, регулярно тестирует новые продукты и функции, чтобы проверить их работу и понять, как они функционируют в реальных условиях.

TikTok в целом отвергает обвинения штата Нью-Йорк, изложенные в судебных документах, и утверждает, что обеспечение безопасности молодых пользователей является приоритетной задачей.

Сотрудник TikTok предупредил, что тестирование с плацебо может ввести пользователей в заблуждение

Как утверждается в иске, менеджер продукта направления Digital Well Being сообщил коллегам, что тестирование с плацебо для Algo Refresh проблематично и что пользователи могут посчитать его вводящим в заблуждение.

«Эта функция посвящена прозрачности и контролю над алгоритмами», — написал сотрудник во внутреннем чате. «Группа плацебо полностью противоречит этой цели». Тем не менее компания провела эти тесты.

Обвинения появились после того, как иск стал доступен для ознакомления

Генеральный прокурор Джеймс подал дело в 2024 году, а последние обвинения были включены в дополненный иск, поданный под грифом секретности в конце августа 2026 года. Он стал достоянием общественности только после того, как судья распорядился сделать его открытым.

По данным Reuters, многие документы в других исках штатов против TikTok также были засекречены или сильно отредактированы в попытке сохранить в тайне информацию о внутренних практиках компании.

В открытом иске также утверждается, что TikTok провел еще один эксперимент, во время которого компания якобы отключала некоторые меры безопасности для случайных пользователей. Один из подростков из Нью-Йорка, выбранный для участия в этом тесте, покончил с собой, согласно внутренним расследованиям, упомянутым в иске, которые показали, что его аккаунт был заполнен контентом о самоубийствах и самоповреждениях.

Этот эксперимент также привлек внимание в Вашингтоне, где в августе сенаторы Марша Блэкберн и Ричард Блументаль назвали его «аморальным». Эти два сенатора направили ТикТоку 13 вопросов, чтобы понять, как был разработан этот тест, кто его одобрил и какие предусмотренные меры защиты существовали.

Иск Нью-Йорка является частью гораздо более широкой правовой кампании. Более 20 штатов утверждали, что TikTok разработал функции, способствующие формированию компульсивного использования среди молодежи, несмотря на преувеличенные заявления компании о мерах безопасности.

Это давление уже привело к урегулированию споров. В сентябре TikTok согласился выплатить Алабаме до 300 млн долларов и внести изменения в работу своей платформы для подростков, тем самым завершив первый из судебных процессов, которые должны были состояться в этом штате.