تيك توك تواجه تدقيقاً بشأن اختبار ميزة إعادة ضبط الخوارزمية

آلاف مستخدمي تيك توك الذين فعّلوا أداة سلامة، وهي Algo Refresh، تلقوا نسخة لا تعمل، وفقاً لادعاءات في دعوى قضائية رفعها المدعي العام لولاية نيويورك ليتيتيا جيمس وأُزيل عنها السرية يوم الأربعاء، وفقاً لـ Reuters.

تم تصميم Algo Refresh لإعادة تعيين توصيات المستخدم عندما يرغب في الابتعاد عن الفيديوهات غير المرغوب فيها أو الضارة.

في ما تصفه الدعوى التجارب الوهمية أو الشبحية، تلقى المستخدمون في مجموعة الدواء الوهمي تأكيداً بأن Algo Refresh قد تم تفعيله حتى وإن لم يتم إعادة تعيين توصياتهم، وفقاً لما تدعيه الدعوى.

نيويورك تقول إن المستخدمين خُدعوا

تدعي الدعوى أن تيك توك يطمئن المستخدمين بأن السلامة أولوية قصوى وأن المنصة مناسبة للأطفال والمراهقين، بينما كان يحجب أدوات السلامة عمداً عن مجموعات معينة، بما في ذلك المستخدمين الذين سعى خصيصاً لتجنب المحتوى الضار.

ووفقاً للدعوى القضائية، كانت الشركة قد أخفت عن المستخدمين حقيقة وظيفة Algo Refresh، والتي كانت في الواقع إعادة تعيين مؤقتة للخوارزمية المستخدمة للتوصيات.

واستمرت TikTok في تشغيل التجارب على آلاف المستخدمين طوال عام 2023، وفقاً للوثائق المقدمة، حيث قارنت بين من كانوا يستخدمون الميزة ومن لم يكونوا يستخدمونها، وبحثت في مقدار الوقت الذي قضاه المستخدمون على المنصة وكيف أثرت التكوينات على إيرادات الإعلانات.

وقال متحدث باسم الشركة إن الشركة تقوم بتحسينات مستمرة، وكما تفعل معظم الشركات، تختبر بانتظام منتجات وميزات جديدة لتجربة التجربة وفهم كيفية عملها في العالم الحقيقي.

لقد نفت TikTok بشكل واسع ادعاءات نيويورك في وثائق المحكمة وتقول إن الحفاظ على سلامة المستخدمين الشباب هو أولوية.

حذر موظف في TikTok من أن اختبار الدواء الوهمي قد يضلل المستخدمين

زعمت الدعوى القضائية أن مديراً للمنتجات في قسم الرفاهية الرقمية أخبر زملاءه بأن اختبار الدواء الوهمي على Algo Refresh كان مشكلة وأن المستخدمين قد يجدونه مضللاً.

"هذه الم feature تتعلق بشفافية الخوارزمية والتحكم فيها", كتب الشخص في محادثة داخلية. "مجموعة الدواء الوهمي تتعارض تماماً مع ذلك." قامت الشركة بتشغيل الاختبارات على أي حال.

ظهرت الاتهامات بعد رفع السرية عن الشكوى

قدم المدعي العام جيمز القضية في عام 2024، بينما وُضعت الاتهامات الأخيرة ضمن شكوى معدّلة أُودعت تحت طائلة السرية في نهاية أغسطس 2026. ولم تُكشف العلنية إلا بعد أن أمر قاضٍ برفع السرية عنها.

ووفقاً لوكالة رويترز، خُطّت أيضاً العديد من الوثائق في دعاوى أخرى ضد تيك توك تقدمت بها ولايات أمريكية، أو حُذفت منها أجزاء كبيرة، في محاولة لإبقاء ممارسات الشركة الداخلية سرية.

وتزعم الشكوى التي أزيلت عنها السرية أيضاً تجربة أخرى قام فيها تيك توك بإيقاف بعض إجراءات السلامة الخاصة به عشوائياً لبعض المستخدمين. وبحسب التحقيقات الداخلية المذكورة في الدعوى، انتحر مراهق من نيويورك كان جزءاً من هذه التجربة، إذ أظهرت النتائج أن حسابه قد امتلأ بمحتوى يتعلق بالانتحار والإيذاء الذاتي.

ولفتت التجربة أيضاً الانتباه في واشنطن، حيث وصف السيناتوران مارشا بلاكبيرن وريتشارد بلومنتال الأمر في أغسطس بأنه "مُنحرف". وطرح هذان السيناتوران 13 سؤالاً على تيك توك لفهم كيفية تصميم هذه التجربة، ومن وافق عليها، وما هي الضمانات المفترضة المطبقة.

تُعدّ دعوى نيويورك جزءاً من تحدي قانوني أوسع نطاقاً. فقد زعم أكثر من 20 ولاية أن تيك توك صممت ميزات لتعزيز الاستخدام القهري بين الشباب، على الرغم من الادعاءات المبالغ فيها للشركة بشأن إجراءات السلامة لديها.

وقد أسفر هذا الضغط بالفعل عن تسويات. ففي سبتمبر، وافق تيك توك على دفع مبلغ يصل إلى 300 مليون دولار لألاباما وإجراء تغييرات في طريقة عمل منصته بالنسبة للمراهقين، مما أنهى أول القضايا التي كانت مقررة للنظر فيها أمام المحاكم.