أعلنت شركة رايت إيد توقفها عن استخدام تقنية التعرف على الوجوه بالذكاء الاصطناعي بعد تسوية مع لجنة التجارة الفيدرالية

 وافقت سلسلة صيدليات "رايت إيد" الشهيرة على التوقف عن استخدام تقنية التعرف على الوجوه المدعومة بالذكاء الاصطناعي كجزء من إجراءاتها لمنع سرقة المتاجر. يأتي هذا القرار استجابةً لتسوية قانونية مع لجنة التجارة الفيدرالية، وسط مزاعم بالتمييز العنصري. ويُزعم أن نظام الذكاء الاصطناعي، المستخدم منذ عام ٢٠١٢، أظهر تحيزًا، حيث استهدف بشكل غير متناسب المتسوقين السود واللاتينيين والآسيويين على حساب نظرائهم البيض.

تؤدي مزاعم التنميط العنصري إلى اتخاذ إجراءات

خضع استخدام سلسلة صيدليات رايت إيد لتقنية التعرف على الوجوه المدعومة بالذكاء الاصطناعي للتدقيق بسبب مزاعم استهدافها لبعض الفئات العرقية. تحديدًا، استُخدم النظامdentالعملاء الذين يُحتمل أن يرتكبوا جرائم سرقة، ما أدى إلى إطلاق تنبيهات لموظفي المتجر عند دخول هؤلاء الأفراد. ومما يثير القلق، أن الأدلة الواردة في الوثائق القانونية تشير إلى أن الأشخاص الملونين كانوا أكثر عرضة للمراقبة غير المبررة والمضايقات والإحراج العلني.

تُعدّ ظاهرة "التسوق أثناء كونك أسود" مصدر قلقٍ قديم، وتتضمن الشكوك غير المبررة والمراقبة المستمرة والاتهامات الباطلة بالسرقة التي تُوجّه للمتسوقين السود منذ لحظة دخولهم المتاجر. ويمتدّ هذا الأمر إلى ممارسات تمييزية، مثل وضع منتجات العناية بالشعر والتجميل الخاصة بالسود خلف خزائن زجاجية، بينما تُترك منتجات مماثلة للزبائن البيض في متناول أيديهم على الرفوف المفتوحة.

إن إساءة استخدام شركة رايت إيد لتقنية التعرف على الوجوه تؤكد دراسة حالة مقلقة لما يسميه بعض الخبراء "العنصرية في قطاع التجزئة"، مما يسلط الضوء على الدورmatic الذي يمكن أن يلعبه الذكاء الاصطناعي في تعزيز وتفاقم عدم المساواة العرقية.

التحيز في الذكاء الاصطناعي

يشير راشون راي، أستاذ علم الاجتماع في جامعة ميريلاند وزميل بارز في معهد بروكينغز، إلى أن تقنيات الذكاء الاصطناعي غالباً ما تعكس أوجه عدم المساواة القائمة، إذ تُصمَّم وتُطوَّر في بيئات تفتقر إلى التنوع والشمول. فعندما تُشفَّر نفس الصور النمطية السائدة في التفاعلات اليومية في الخوارزميات، تكون النتيجة تقنية التعرف على الوجوه التي تُكرِّس الصور النمطية العرقية، على غرار التحيز البشري.

تُعدّ التحيزات الضمنية، المتأصلة في اختصارات ذهنية تربط لا شعوريًا بين فئات معينة وخصائص أو سلوكيات محددة، عاملًا مهمًا في هذه المشكلة. في بيئات البيع بالتجزئة، غالبًا ما تتجلى هذه التحيزات في ربط الموظفين، بشكل خاطئ، بين المتسوقين من ذوي البشرة الملونة وأنماط السرقة، دون وجود بيانات تدعم ذلك. على الرغم من أن الإحصاءات تشير إلى أن معظم سارقي المتاجر في الولايات المتحدة هم من البيض، إلا أن إساءة استخدام تقنية الذكاء الاصطناعي لا تزال تُسهم في نشر الرواية الخاطئة حول غالبية سارقي المتاجر.

رغم أن سرقة البضائع تشكل خطراً مالياً كبيراً على الشركات، إلا أن اعتماد سلسلة متاجر رايت إيد على الذكاء الاصطناعي للمراقبة أدى إلى عواقب غير مقصودة. فقد تعرض المتسوقون من ذوي البشرة الملونة، الذين استُهدفوا ظلماً، للإذلال، مما تسبب في خسائر مالية للمتاجر. ولم يكن أمام بعض المجتمعات، ولا سيما تلك التي تفتقر إلى خيارات تسوق بديلة، خيار سوىtronعلى متاجر تعرضوا فيها للتمييز والإساءة.

دور الذكاء الاصطناعي خارج نطاق تجارة التجزئة

لا تقتصر تداعيات الذكاء الاصطناعي المتحيز على قطاع التجزئة فحسب، بل تمتد لتشمل مخاوف بشأن تأثيره على عمل الشرطة والأمن العام. وتثير قضايا بارزة، مثل الاعتقال الخاطئ لامرأة سوداء حامل في ديترويت بسبب أخطاء في تقنية التعرف على الوجوه، شكوكاً حول مدى موثوقية أنظمة المراقبة المدعومة بالذكاء الاصطناعي.

تكشف بيانات مركز بيو للأبحاث أنdentالسود يُظهرون أقل ثقة في تقنية التعرف على الوجوه في العمل الشرطي. وقد أعرب ما يقرب من نصف الأفراد السود الذين شملهم الاستطلاع عن مخاوفهم من أن يُسيء الضباط استخدام التقنيات المدعومة بالذكاء الاصطناعي لمراقبة الأحياء ذات الأغلبية السوداء واللاتينية بشكل أكثر تكرارًا من المناطقdentالمتنوعة عرقيًا.

دعوات إلى توخي الحذر وإجراء الفحوصات

في وقت سابق من هذا العام، عارض خمسة أعضاء في مجلس الشيوخ الأمريكي استخدام إدارة أمن النقل (TSA) لتقنية التعرف على الوجوه في المطارات الأمريكية. واستشهدوا بدراسة كشفت أن الأفراد السود والآسيويين أكثر عرضةً للخطأ في تحديدdentبواسطة هذه التقنية مقارنةً بالرجال البيض. وكجزء من تسوية مع لجنة التجارة الفيدرالية، التزمت سلسلة صيدليات رايت إيد بتعليق استخدامها لأنظمة المراقبة المدعومة بالذكاء الاصطناعي لمدة خمس سنوات. ويقترح الخبراء أن تحذو متاجر التجزئة الأخرى حذوها، وأن تُجري اختبارات صارمة ومتكررة للقضاء على أي تحيزات في هذه التقنيات.