تقنية التعرف على الوجه وأوجه عدم المساواة العنصرية في إنفاذ القانون

خضعت تقنية التعرف على الوجه (FRT) للمراجعة مرة أخرى بسبب المخاوف من أنها قد تفاقم أوجه عدم المساواة العنصرية في إنفاذ القانون. وقد سلطت الأبحاث الحديثة التي أجرتها مجلة Scientific American عبر الإنترنت الضوء على التحيزات المحتملة المضمنة في خوارزميات FRT وعواقبها الواقعية.

كشفت الدراسة أن وكالات إنفاذ القانون التي تستخدم التعرف التلقائي على الوجه تقوم باعتقال أفراد من السود بشكل غير متناسب، مما يثير أسئلة حاسمة حول عدالة هذه التقنية وموثوقيتها.

عيوب في خوارزميات FRT

يجادل الباحثون وراء التقرير بأن عدة عوامل تساهم في التأثير غير المتناسب لتقنية FRT على مجتمعات السود. أحد المخاوف الرئيسية هو نقص التنوع في مجموعات البيانات المستخدمة لتدريب الخوارزميات، والتي غالباً ما تفتقر إلى تمثيل كافٍ لوجوه السود. يمكن أن يؤدي هذا النقص إلى أخطاء في تحديد هوية الأفراد من الأقليات.

عامل آخر مساهم هو الاعتقاد السائد بين أجهزة إنفاذ القانون بأن هذه البرامج لا تقبل الخطأ. يمكن أن يؤدي هذا الاعتماد المفرط على التكنولوجيا إلى ثقة الضباط في نتائج FRT دون تحفظ، حتى عندما تكون معيبة. 

علاوة على ذلك، تشير الدراسة إلى أن التحيزات الكامنة لدى الضباط يمكن أن تضخم المشكلات داخل تقنية FRT، مما يؤدي إلى اعتقالات خاطئة وعواقب ضارة للأبرياء.

واحد من الأمثلة المذهلة على العواقب الواقعية للتعرف الخاطئ على الوجه هو حالة هارفي يوجين مورفي جونيور. الجد البالغ من العمر 61 عاماً يرفع حالياً دعوى قضائية ضد الشركة الأم لمتجر Sunglass Hut بعد أن حددت تقنية التعرف على الوجه في المتجر بشكل خاطئ هويته كمجرم. 

وقعت عملية السطو في متجر Sunglass Hut في هيوستن بولاية تكساس، حيث سرق اثنان مسلحان النقود والبضائع.

حددت شرطة هيوستن مورفي كمشتبه به، اعتماداً على تقنية FRT، على الرغم من أنه كان مقيماً في كاليفورنيا في وقت الجريمة. تم اعتقاله عند عودته إلى تكساس لتجديد رخصة قيادته. أثناء وجوده في السجن، يدعي مورفي أنه تعرض للاعتداء الجنسي من قبل ثلاثة رجال في الحمام، مما أدى إلى إصابات تغير حياته.

على الرغم من أن مكتب المدعي العام لمقاطعة هاريس قرر في النهاية أن مورفي لم يكن متورطاً في عملية السطو، إلا أن الضرر كان قد وقع بالفعل خلال فترة احتجازه. يجادل محاموه بأن هذه الحالة تجسد العيوب الكامنة وعواقب تقنية FRT في الممارسة العملية.

رؤى الخبراء ودعوات للعمل

يؤكد أوز كيز، زميل آدا لوفلايس ومرشح درجة الدكتوراه في جامعة واشنطن، أن هذه الأنظمة مصممة لأتمتة وتسريع التحيزات الشرطية القائمة، خاصة ضد الأفراد الذين هم بالفعل مهمشين أو ضمن نظام العدالة الجنائية. 

يشدد كيز على أن النتائج السلبية لتقنية FRT حتمية ومروعة، مؤكداً على الحاجة إلى إصلاح أوسع في إنفاذ القانون وتنظيم تقنية FRT.

يبرز الباحثون من Scientific American أن الشركات الخاصة مثل أمازون وClearview AI ومايكروسوفت تقوم عادةً بتطوير خوارزميات FRT المستخدمة من قبل وكالات إنفاذ القانون. 

على الرغم من التقدم في تقنيات التعلم العميق، أظهرت الاختبارات الفيدرالية أن معظم خوارزميات التعرف على الوجه تواجه صعوبة في تحديد هوية الأفراد بدقة، خاصة أولئك الذين ليسوا من الرجال البيض.

في عام 2023، اتخذت لجنة التجارة الفيدرالية (FTC) إجراءً ضد استخدام تقنية FRT من خلال حظر استخدام Rite Aid لهذه التكنولوجيا. كانت Rite Aid قد اتهمت بشكل خاطئ أفراداً بسرقة المتاجر بناءً على مطابقات FRT. في حادث مثير للقلق، تم إيقاف فتاة تبلغ من العمر 11 عاماً وتفتيشها من قبل موظف في Rite Aid بسبب مطابقة خاطئة.

وبالمثل، واجهت إدارة شرطة ديترويت دعوى قضائية بعد أن حددت تقنية FRT بشكل خاطئ امرأة حامل، بورشا وودروف، كمشتبه بها في عملية سطو على سيارة. كانت وودروف في الشهر الثامن من حملها وقتها وتم احتجازها بشكل خاطئ.

أقرت لجنة التجارة الفيدرالية أن الأشخاص من ذوي البشرة الملونة غالباً ما يتم تحديدهم بشكل خاطئ عند استخدام تقنية FRT. يؤدي التمثيل المفرط للذكور البيض في مجموعات البيانات التدريبية إلى تحيز الخوارزميات، مما يؤدي إلى وضع العلامات بشكل غير متناسب على وجوه السود كمجرمين. وهذا بدوره يساهم في الاستهداف غير العادل واعتقال السود الأبرياء.

دعوات للمساءلة والإصلاح

في ضوء هذه المخاوف، يؤكد الباحثون على الحاجة إلى أن تعطي الشركات التي تطور منتجات FRT الأولوية لتنوع الموظفين والصور في عمليات التطوير الخاصة بها. ومع ذلك، يشددون أيضاً على ضرورة أن تقوم وكالات إنفاذ القانون بمراجعة أساليبها بشكل نقدي لمنع التكنولوجيا من تفاقم الفوارق العنسية وانتهاك حقوق الأفراد.

مع استمرار الجدل حول تقنية التعرف على الوجه، يصبح من الواضح بشكل متزايد أن الإصلاح الشامل والتنظيم ضروريان لمعالجة القضايا المنهجية لتنفيذها. 

تمتد عواقب خوارزميات FRT المعيبة إلى ما هو أبعد من الأعطال التقنية، مما يؤثر على حياة الأفراد ورفاهيتهم، خاصة أولئك القادمين من المجتمعات المهمشة.