تقنية التعرف على الوجوه تواجه تدقيقاً بشأن التحيز العنصري وقضايا الدقة

تقنية التعرف على الوجوه، التي تُحتفى بتطبيقاتها في مجال الراحة والأمن، تخضع لمزيد من التدقيق بسبب فشلها في تحديد هوية الأفراد بدقة، ولا سيما الأشخاص من ذوي البشرة الملونة. وقد سلطت التقارير الحديثة الضوء على حالات أخطأت فيها أنظمة التعرف على الوجوه في تحديد هوية الأفراد، مما أدى إلى مخاوف تتعلق بانتهاك الخصوصية والتمييز. وتدفع هذه القضايا إلى المطالبة بإعادة التقييم وإحجام محتمل عن استخدامها على نطاق واسع.

التحيز العنصري في تقنية التعرف على الوجوه

أحد أكثر مخاوف تقنية التعرف على الوجوه إلحاحاً هو تحيزها العنصري. أظهرت الدراسات أن هذه الأنظمة أقل دقة بشكل كبير في تحديد هوية الأشخاص من ذوي البشرة الملونة مقارنة بالأفراد البيض. وجدت دراسة أجرتها الباحثة جوي بولامويني (Joy Buolamwini) من مختبر ميديا لاب (MIT Media Lab) في عام 2018 أن تقنية التعرف على الوجوه أخطأت في تحديد هوية النساء السود بنسبة تصل إلى 35% في بعض الأحيان، بينما تم الخطأ في تحديد هوية الرجال البيض في 1% فقط من الحالات. وبالمثل، خلصت دراسة اتحادية في عام 2019 إلى أن الأشخاص من أصل آسيوي وأفريقي أمريكي والنساء أكثر عرضة للتعرف عليهم بشكل خاطئ من الرجال البيض.

تكمن جذور هذا التحيز في التمثيل غير المتناسب للأفراد البيض في مجموعات البيانات المستخدمة لتدريب خوارزميات التعرف على الوجوه. ومع قلة الصور للأشخاص من خلفيات عرقية وجنسية متنوعة، تفتقر هذه الأنظمة إلى الدقة اللازمة لتحديد هوية الأفراد من هذه الخلفيات بشكل صحيح. ونتيجة لذلك، يتأثر الأشخاص من ذوي البشرة الملونة بشكل غير متناسب بعدم دقة تقنية التعرف على الوجوه.

تمتد آثار عدم دقة تقنية التعرف على الوجوه إلى ما هو أبعد من مجرد الإزعاج. يمكن أن تؤدي حالات الخطأ في تحديد الهوية إلى عواقب وخيمة، لا سيما في البيئات الحساسة للأمن مثل المطارات والمتاجر. وتشير التقارير إلى أن الأفراد تم حرمانهم بشكل غير عادل من الوصول أو الخدمات بسبب قيام أنظمة التعرف على الوجوه بوضع علامات خاطئة عليهم.

وعلاوة على ذلك، تزداد المخاوف بشأن انتهاك الخصوصية مع انتشار هذه الأنظمة بشكل أكبر. يثير الاعتماد على التعرف على الوجوه للتحقق من الهوية أسئلة حول حماية البيانات الشخصية وإمكانية الإشراف غير المصرح به. يجادل النقاد بأن التبني الواسع لتقنية التعرف على الوجوه دون وجود ضوابط كافية يهدد الحريات المدنية ويزيد من تفاقم أوجه عدم المساواة القائمة.

مطالبات بإعادة التقييم والتنظيم

في ضوء هذه القضايا، تزداد المطالبات بإعادة تقييم وتنظيم تقنية التعرف على الوجوه. يجادل النقاد بأن الفوائد المحتملة لهذه الأنظمة يجب أن تُزن ضد عيوبها الكبيرة، بما في ذلك التحيز العنصري ومخاوف الخصوصية. ويدعو بعض المدافعين إلى فرض رقابة أكثر صرامة ومتطلبات شفافية لضمان المساءلة في تطوير ونشر تقنية التعرف على الوجوه.

علاوة على ذلك، هناك دفع نحو زيادة التنوع في مجموعات البيانات المستخدمة لتدريب هذه الأنظمة للتخفيف من التحيز العنصري. من خلال دمج المزيد من الصور للأشخاص من خلفيات متنوعة، يمكن لخوارزميات التعرف على الوجوه تحسين دقتها وتقليل خطر الخطأ في تحديد الهوية. بالإضافة إلى ذلك، هناك مطالبات من الشركات والوكالات الحكومية بتقديم بدائل لتقنية التعرف على الوجوه للأفراد الذين يفضلون عدم استخدامها أو يتأثرون سلباً بها.

أدى التبني الواسع لتقنية التعرف على الوجوه إلى إحضار الراحة والكفاءة إلى صناعات مختلفة، لكن لا يمكن تجاهل المخاوف بشأن دقتها وتحيزها العنصري. ومع استمرار ظهور تقارير عن أخطاء في تحديد الهوية وانتهاكات للخصوصية، هناك حاجة ملحة لإعادة التقييم والتنظيم. إن فرض رقابة أكثر صرامة، وزيادة التنوع في مجموعات بيانات التدريب، وخيارات بديلة للتحقق من الهوية هي خطوات أساسية لمعالجة هذه القضايا وضمان استخدام تقنية التعرف على الوجوه بشكل مسؤول وأخلاقي في المستقبل.