كيف يمكن لإجراءات التوظيف التي يسهلها الذكاء الاصطناعي أن ترسخ التمييز مؤسسياً

ملخص سريع

• تثير حالات التحيز في التوظيف بالذكاء الاصطناعي مخاوف بشأن الإنصاف والشمولية، مما يعزز التمييز المنهجي.
• يعزز التحيز في الأنظمة الخوارزمية، وأنظمة تتبع المتقدمين، وأدوات الذكاء الاصطناعي من تحيز مكان العمل، مما يؤكد أهمية الحكم البشري.
• الثقة المفرطة في الأتمتة تتجاهل الحاجة إلى التدخل البشري في قرارات التوظيف العادلة والأخلاقية.

مع اعتماد المنظمات بشكل متزايد على خوارزميات الذكاء الاصطناعي للمساعدة في اختيار المرشحين، تبرز قلق متزايد: وهو إمكانية ترسيخ التمييز المؤسسي. وعلى الرغم من أن الذكاء الاصطناعي يوفر الموضوعية والكفاءة، إلا أن هناك مخاطر متأصلة في استمرار التحيز والتحيز إذا فشلنا في التحرك بحذر. ومع تنقلنا في هذه النقطة المحورية حيث تتقاطع التكنولوجيا مع الموارد البشرية، من الضروري فحص الآثار بشكل نقدي واتخاذ إجراءات استباقية لضمان الإنصاف والمساواة والشمول في التوظيف بالذكاء الاصطناعي.

التحيز في الذكاء الاصطناعي يظهر بوضوح في حالات واقعية

مع استمرار تطور الذكاء الاصطناعي في مجال التوظيف، يصبح من الضروري معالجة هذه التحيزات وتصحيحها لضمان عملية توظيف أكثر شمولاً وإنصافاً. لقد ظهرت بالفعل حالات من التحيز في الذكاء الاصطناعي أثناء التوظيف، مما أثار مخاوف بشأن العواقب المحتملة للاعتماد الكلي على خوارزميات الذكاء الاصطناعي لاتخاذ قرارات التوظيف. أحد الأمثلة على ذلك يكمن في الأساليب غير الموثوقة والمتحيزة التي تستخدمها تحليلات الصوت ودراسة شكل الجمجمة (الفريونولوجيا) لتحديد الصفات المثالية للمتقدمين. وعلى الرغم من ادعاءات الموضوعية، فقد ثبت أن هذه الأدوات تحمل تحيزات متأصلة تعكس التحيزات والصور النمطية المجتمعية. إن الاعتماد على هذه التكنولوجيا المعيبة لا يقوض مبادئ التقييم العادل فحسب، بل يعزز أيضاً التمييز المنهجي من خلال تفضيل غير المتناسب لأفراد معينين بناءً على عوامل تعسفية مثل خصائص الصوت أو السمات الجسدية.

يُعد خطر التمييز المتعمد قضية ملحة أخرى مرتبطة بأدوات التوظيف بالذكاء الاصطناعي. بفضل قدرتها على التلاعب بقوائم المرشحين، يمكن برمجة هذه الأدوات لاستبعاد الأفراد ذوي الإعاقة، أو المنتمين إلى خلفيات عرقية محددة، أو حتى بناءً على ملفاتهم الجسدية وحدها. يؤدي هذا التحيز المتعمد إلى تضخيم احتمالية المعاملة غير العادلة وتهميش المزيد للمجموعات الممثلة تمثيلاً ناقصاً. ومن خلال استغلال الطبيعة التي تبدو موضوعية للذكاء الاصطناعي، يمكن للمنظمات استخدام هذه الأدوات كوسيلة للحفاظ على الممارسات التمييزية، مما يقوض مبادئ تكافؤ الفرص ويعزز عدم المساواة في الثروة في الوقت نفسه. 

يمكن أن يتجلى التحيز في الأنظمة الخوارزمية

الخوارزميات، بما في ذلك تلك المستخدمة في أدوات التوظيف بالذكاء الاصطناعي، ليست محصنة ضد التحيزات. قبل ظهور أدوات الذكاء الاصطناعي، اكتسبت أنظمة تتبع المتقدمين (ATSs) شعبية في التسعينيات كبرامج مصممة لمساعدة عملية البحث عن المرشحين وفحصهم وتحليلهم طوال عملية التوظيف. وعلى الرغم من أن أنظمة ATSs أثبتت فائدتها، إلا أنها يمكن أن تضخم أيضاً تحيز مكان العمل، وأصبحت العديد منها قديماً. ونتيجة لذلك، يمكن أن يكون استبدال أنظمة ATSs القديمة بأدوات حديثة قراراً حكيماً، شريطة أن يظل المحترفون ذوو الخبرة مشاركين. ومن الشائع جداً أن يصدق مديرو التوظيف وقادة الأعمال أن الذكاء الاصطناعي سيحل محل أدوار فرق الموارد البشرية الماهرة بسبب افتقاره المزعوم للتحيز وكفاءته المتزايدة. ومع ذلك، في الواقع، حتى أنظمة الذكاء الاصطناعي المبرمجة بدقة يمكن أن تظهر تحيزات خوارزمية وتتخذ قرارات مُقلقة.

يُعد إدراك إمكانية وجود تحيز في الخوارزميات أمراً بالغ الأهمية عند دمج الذكاء الاصطناعي في عملية التوظيف. وعلى الرغم من أن أدوات الذكاء الاصطناعي يمكن أن تجلب الكفاءة والموضوعية، إلا أنه لا ينبغي النظر إليها على أنها بدائل لا تقبل الخطأ للخبرة البشرية. يمتلك المحترفون البشر المعرفة السياقية والتفكير النقدي الضروريين لتقييم المرشحين بشكل شامل واتخاذ أحكام عادلة. ومن خلال إشراك فرق الموارد البشرية ذات الخبرة جنباً إلى جنب مع أدوات التوظيف الحديثة بالذكاء الاصطناعي، يمكن للمنظمات تحقيق توازن يجمع بين فوائد التكنولوجيا والحكم البشري، مما يخفف من مخاطر التحيزات الخوارزمية ويضمن عملية توظيف أكثر إنصافاً وفعالية.

حافظ على التوازن وتجنب الاعتماد المفرط على أنظمة التشغيل الآلي

في مجال التوظيف، من الضروري تحقيق التوازن وتجنب الاعتماد المفرط على أنظمة التشغيل الآلي. بدءاً من المرحلة الأولية لجذب المرشحين، تحدد خوارزميات التعلم الآلي والتنبؤي من يجب أن تتعرض إعلانات الوظائف له ومن يجب اختياره للمزيد من النظر. لسوء الحظ، اعتمدت 79% من المنظمات مزيجاً من الأتمتة والذكاء الاصطناعي لأغراض التوظيف في عام 2022، مع عدم إدراك جزء كبير منها أن أنظمتها قد تولد نتائج متحيزة. إن وضع ثقة كبيرة في الأتمتة والذكاء الاصطناعي ينطوي على مخاطر متأصلة. المخاطر مرتفعة جداً لتجاهل أهمية التدخل البشري في عملية التوظيف.

بينما يمكن للأتمتة والذكاء الاصطناعي تبسيط جوانب معينة من التوظيف وإدخال الكفاءة، يجب النظر إليها كأدوات تعزز الحكم البشري بدلاً من استبداله تماماً. يجلب التدخل البشري القدرة الحاسمة على تقييم الفروق الدقيقة والعوامل السياقية والخبرات المتنوعة التي قد تتجاهلها الخوارزميات. لقرارات التوظيف آثار عميقة على كل من المنظمات والأفراد، مما يجعل الإشراف البشري ضرورياً لضمان العدالة وتخفيف احتمالية التحيز. يظل دور المحترفين البشريين، المزودين بخبرتهم وتعاطفهم وفهمهم للديناميكيات البشرية المعقدة، لا غنى عنه لاتخاذ خيارات توظيف مستنيرة وأخلاقية.

مواجهة تحيز الذكاء الاصطناعي في التوظيف التزام مشترك

تعد جهود حماية المستقبل من تحيز الذكاء الاصطناعي في التوظيف مسؤولية جماعية. في الماضي، ربما كانت المنظمات تعمل بمساءلة محدودة عن تحيزاتها. ومع ذلك، يتغير المشهد مع إدخال تشريعات جديدة، مثل القانون المحلي 144 في نيويورك، الذي يفرض الشفافية والمساءلة في ممارسات التوظيف بالذكاء الاصطناعي. وبالمثل، يشير قانون الذكاء الاصطناعي القادم في الاتحاد الأوروبي إلى التزام بإنشاء ضوابط ضد تحيز التوظيف، على الرغم من أن العلاجات المحددة لا تزال قيد التطوير.

في هذا البيئة، يجب على المنظمات أن تتخذ زمام المبادرة لتثقيف نفسها حول البروتوكولات التي تحمي مصالحها ومصالح المتقدمين لها. بالإضافة إلى ذلك، يلعب بائعو أدوات الذكاء الاصطناعي دوراً حاسماً من خلال توفير الشفافية حول خوارزمياتهم، بما في ذلك تفاصيل بيانات التدريب والافتراضات الأساسية والجهود المبذولة للتخفيف من التحيز. إن الامتثال الموثق والاختبار المستمر أمران أساسيان للكشف عن التحيزات المستقبلية ومعالجتها، مما يضمن بقاء عملية التوظيف عادلة وغير متحيزة.

تجميع أجزاء عمليات التوظيف الممكّنة بالذكاء الاصطناعي

يتمتع الذكاء الاصطناعي بالقدرة على تعزيز ممارسات التوظيف الحالية، ولكن يجب دمجه بحذر وألا يُمنح أبداً السيطرة الكاملة على عمليات التوظيف في الشركة. السماح للذكاء الاصطناعي بتحديد قرارات التوظيف وحدها يمكن أن يفصل أصحاب العمل عن الأفراد الذين يحتاجونهم حقاً، والأكثر إثارة للقلق، قد يؤدي إلى نتائج تمييزية. لمعالجة هذا، من الضروري أن نتعلم كيفية دمج الذكاء الاصطناعي بأمان وفعالية في ممارسات التوظيف الحالية لدينا. إن اللوائح القوية وأفضل الممارسات على مستوى الصناعة ضرورية في هذا الجهد. بدون جهود استباقية من المحترفين البشريين وراء الخوارزميات، قد يواجه الذكاء الاصطناعي صعوبة في تحقيق وعوده، وفي أسوأ السيناريوهات، قد يقوض الأهداف التي يسعى لتحقيقها. من الضروري التأكد من أن أدوات الذكاء الاصطناعي تُبنى وتُختبر وتُراقب بعناية للتخفيف من التحيزات وتحسين فوائدها المحتملة في عملية التوظيف.