محاولة نيويورك كبح تحيز الذكاء الاصطناعي في التوظيف تفشل، مما يعرقل المبادرات العالمية

في محاولة لمواجهة مشكلة تحيز الذكاء الاصطناعي المستمرة في التوظيف، نفذت مدينة نيويورك القانون المحلي 144 (LL144) في عام 2021، مما يتطلب من أصحاب العمل تدقيق أدوات اتخاذ القرار التوظيف الآلية (AEDTs) سنوياً للكشف عن التحيز العرقي والجنساني. لكن دراسة حديثة أجراها باحثون من جامعة كورنيل، ومجلة Consumer Reports، ومعهد أبحاث Data & Society كشفت عن عيوب كبيرة في فعالية القانون. تكشف الدراسة، التي لم تنشر رسمياً بعد لكنها شاركت مع صحيفة The Register، عن إحصائيات مقلقة تشير إلى نقص صارخ في الامتثال بين أصحاب العمل الخاضعين لـ LL144.

واقع عدم فعالية LL144 في مواجهة تحيز الذكاء الاصطناعي

لنغوص في تفاصيل قانون LL144 و findings الدراسة. يتضح أن LL144، رغم نواياه الحسنة، يفتقر إلى القوة اللازمة لإجبار أصحاب العمل على معالجة تحيز الذكاء الاصطناعي بفعالية. يسمح النطاق الواسع للقانون لأصحاب العمل بسلطة تقديرية كبيرة في تحديد ما إذا كانت أنظمتهم تدخل ضمن نطاقه. الصادم أن 18 فقط من بين 391 صاحب عمل تم أخذ عينة منهم قد نشر التقارير المطلوبة للتدقيق، و13 فقط أدرجوا إشعارات شفافية في إعلانات الوظائف.

أشار Jacob Metcalf، أحد مؤلفي الدراسة من Data & Society، إلى قصور LL144، مشدداً على أنه يمنح أصحاب العمل سلطة تقديرية كبيرة جداً. ومن الملاحظ أن القانون لا يفرض إجراءات تصحيحية إذا كشفت التدقيقات عن نتائج تمييزية، مما يترك أصحاب العمل عرضة لدعاوى مدنية مكلفة. كما سلط الباحثون الضوء على تجربة المدققين الذين راجعوا أدوات AEDT المستخدمة من قبل شركات نيويورك، وكشفوا عن حالات اختار فيها أصحاب العمل عدم نشر نتائج التدقيق ذات الأرقام غير المواتية بسبب مخاوف قانونية.

الآثار العالمية

للفشل الذي واجهته محاولة نيويورك في كبح تحيز الذكاء الاصطناعي آثار تموجية على المبادرات المماثلة حول العالم. واجهت التشريعات المقترحة في ولايات أخرى، بما في ذلك كاليفورنيا، وواشنطن العاصمة، وولاية نيويورك، انتكاسات حيث أعاد المشرعون النظر في هياكلها في ضوء قصور LL144. حتى قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي تم الاتفاق عليه بشكل مبدئي، يواجه تحديات في تعريف اللوائح الخاصة بالذكاء الاصطناعي المستخدم في عمليات التوظيف.

من الجدير بالذكر أن المشاكل القانونية التي تواجهها شركة برمجيات الموارد البشرية Workday تسلط الضوء على إلحاحية معالجة تحيز الذكاء الاصطناعي. وعلى الرغم من النجاح المحدود لـ LL144، يجادل الباحثون بأن القانون يمثل تجربة تعليمية قيمة وخطوة أولى حاسمة نحو تنظيم أفضل. ومع ذلك، يشددون على الحاجة إلى توسيع نطاق التشريع، داعين إلى أن تتخلى القوانين المستقبلية عن اللغة المجردة وتقدم تعريفات أوضح، لا سيما في تحديد ما يشكل استخداماً مشمولاً لبرمجيات AEDT.

نداء لتشريع أكثر وضوحاً

تظهر سؤال حاسم حول مستقبل تنظيم تحيز الذكاء الاصطناعي. بالنظر إلى قصور القانون المحلي 144 (LL144)، ما الدروس التي يمكن استخلاصها لتشريع أكثر فعالية وشاملة على مستوى العالم؟ ومع استمرار النقاشات حول تحيز الذكاء الاصطناعي، تبرز الحاجة بشكل متزايد إلى تعريفات أوضح، ونطاق أوسع، وإجراءات إنفاذ صارمة. قد تكون رحلة تنظيم الذكاء الاصطناعي في قرارات التوظيف مليئة بالتحديات، لكن التعلم من أخطاء LL144 يمكن أن يمهد الطريق لتنظيمات أكثر متانة وتأثيراً في المستقبل.