خضعت تقنية التعرف على الوجوه (FRT) للتدقيق مجدداً بسبب المخاوف من أنها قد تُفاقم التفاوتات العرقية في عمل الشرطة. وقد سلط بحث حديث أجرته مجلة ساينتفك أمريكان الإلكترونية الضوء على التحيزات المحتملة الكامنة في التعرف على الوجوه وعواقبها على أرض الواقع.
كشفت الدراسة أن وكالات إنفاذ القانون التي تستخدم تقنية التعرف الآلي على الوجوه تقوم باعتقال الأفراد السود بشكل غير متناسب، مما يثير تساؤلات حاسمة حول عدالة وموثوقية هذه التقنية.
عيوب في خوارزميات FRT
يُشير الباحثون الذين أعدّوا التقرير إلى أن عدة عوامل تُسهم في التأثير غير المتناسب لتقنية التعرف على الوجوه على المجتمعات السوداء. ومن أبرز هذه العوامل نقص التنوع في مجموعات بيانات تدريب الخوارزميات، والتي غالبًا ما تفتقر إلى تمثيل كافٍ للوجوه السوداء. وقد يؤدي هذا defiإلى عدم دقة فيdentهوية الأفراد المنتمين إلى الأقليات.
ومن العوامل الأخرى المساهمة في ذلك اعتقاد جهات إنفاذ القانون بأن هذه البرامج لا تشوبها شائبة. هذا الاعتماد المفرط على التكنولوجيا قد يدفع الضباط إلى الثقة بنتائج اختبار التعرف على الوجوه ثقة مطلقة، حتى وإن كانت معيبة.
علاوة على ذلك، تشير الدراسة إلى أن التحيزات المتأصلة لدى الضباط يمكن أن تضخم المشكلات داخل فريق الاستجابة السريعة، مما يؤدي إلى اعتقالات خاطئة وعواقب وخيمة على الأفراد الأبرياء.
أحد الأمثلة البارزة على العواقب الواقعية لتقنيةdentالوجوه الخاطئة هي قضية هارفي يوجين مورفي جونيور. يقاضي الجد البالغ من العمر 61 عامًا حاليًا الشركة الأم لمتجر سانغلاس هت بعد أنdentتقنية التعرف على الوجوه الخاصة بالمتجر بشكل خاطئ على أنه لص.
وقعت عملية السطو في متجر "سانغلاس هت" في هيوستن، تكساس، حيث قام شخصان مسلحان بسرقة cash والبضائع.
dentشرطة هيوستن على تقنية التعرف على الوجوه لتحديد هوية مورفي كمشتبه به، رغم إقامته في كاليفورنيا وقت ارتكاب الجريمة. أُلقي القبض عليه لدى عودته إلى تكساس لتجديد رخصة قيادته. أثناء وجوده في السجن، ادعى مورفي أنه تعرض لاعتداء جنسي من قبل ثلاثة رجال في دورة المياه، مما أدى إلى إصابات غيّرت مجرى حياته.
على الرغم من أن مكتب المدعي العام لمقاطعة هاريس قد خلص في نهاية المطاف إلى أن مورفي لم يكن متورطًا في عملية السطو، إلا أن الضرر كان قد وقع بالفعل أثناء احتجازه. ويجادل محاموه بأن هذه القضية تجسد عيوب نظام الاستجابة السريعة الكامنة وعواقبه العملية.
رؤى الخبراء ودعوات العمل
يؤكد أوس كيز، وهو زميل في برنامج آدا لوفليس وطالب دكتوراه في جامعة واشنطن، أن هذه الأنظمة مصممة لأتمتة وتسريع التحيزات الشرطية القائمة، لا سيما ضد الأفراد المهمشين بالفعل أو الموجودين في نظام العدالة الجنائية.
يؤكد كيز أن النتائج السلبية لتقنية الاستجابة السريعة حتمية ومروعة، مؤكداً على الحاجة إلى إصلاح أوسع في مجال الشرطة وتنظيم تقنية الاستجابة السريعة.
ويشير الباحثون من مجلة ساينتفك أمريكان إلى أن الشركات الخاصة مثل أمازون وكليرفيو إيه آي ومايكروسوفت عادة ما تقوم بتطوير خوارزميات التعرف على الوجوه التي تستخدمها وكالات إنفاذ القانون.
على الرغم من التقدم في تقنيات التعلم العميق، فقد أظهرت الاختبارات الفيدرالية أن معظم خوارزميات التعرف على الوجوه تواجه صعوبة فيdentالأفراد بدقة، وخاصة أولئك الذين ليسوا رجالاً بيضاً.
في عام 2023، اتخذت لجنة التجارة الفيدرالية إجراءً ضد استخدام تقنية التعرف على الوجوه (FRT) بمنع سلسلة صيدليات رايت إيد من استخدامها. وكانت رايت إيد قد اتهمت أفرادًا زورًا بالسرقة بناءً على نتائج مطابقة FRT. وفي إحدىdentالمقلقة، أوقفت موظفة في رايت إيد فتاة تبلغ من العمر 11 عامًا وفتشتها بسبب تطابق خاطئ.
وبالمثل، واجهت إدارة شرطة ديترويت دعوى قضائية بعد أنdentنظام الاستجابة السريعة التابع لها في تحديد هوية امرأة حامل، بورشا وودروف، كمشتبه بها في قضية سرقة سيارة. كانت وودروف حاملاً في شهرها الثامن آنذاك، وقد سُجنت ظلماً.
أقرت لجنة التجارة الفيدرالية بأن الأشخاص الملونين غالبًا ماdentعليهم عند استخدام تقنية التعرف على الوجوه. ويؤدي التمثيل المفرط للذكور البيض في مجموعات بيانات التدريب إلى خوارزميات منحرفة، مما ينتج عنه تصنيف الوجوه السوداء بشكل غير متناسب كمجرمين. وهذا بدوره يساهم في الاستهداف والاعتقال غير العادلين للأفراد السود الأبرياء.
دعوات للمساءلة والإصلاح
في ضوء هذه المخاوف، يؤكد الباحثون على ضرورة أن تولي الشركات المطورة لمنتجات التعرف على الوجوه أولويةً لتنوع الموظفين والصورة في عمليات التطوير. ومع ذلك، يشددون أيضاً على ضرورة أن تُجري أجهزة إنفاذ القانون مراجعةً دقيقةً لأساليبها لمنع التكنولوجيا من تفاقم التفاوتات العرقية وانتهاك حقوق الأفراد.
مع استمرار النقاش الدائر حول تقنية التعرف على الوجوه، يتضح بشكل متزايد أن الإصلاح الشامل والتنظيم ضروريان لمعالجة المشكلات النظامية لتطبيقها.
إن عواقب خوارزميات التعرف على الكلام المعيبة تتجاوز بكثير الأعطال التقنية، فهي تؤثر على حياة ورفاهية الأفراد، وخاصة أولئك الذين ينتمون إلى المجتمعات المهمشة.
