دراسة تكشف عن تحيز الذكاء الاصطناعي في تصورات المكانة المهنية

وقد تعمقت دراسة حديثة أجرتها منظمة العمل الدولية في استخدام الذكاء الاصطناعيفيتقييم مكانة وقيمة الوظائف المختلفة، مسلطة الضوء على فوائده المحتملة وتحدياته. 

قارن البحث، الذي يحمل عنوان "بناء تكنولوجي للمجتمع: مقارنة بين GPT-4dentالبشريين للتقييم المهني في المملكة المتحدة"، تقييمات الذكاء الاصطناعي التي أجراها GPT-4، وهو نموذج لغوي كبير (LLM)، مع التقييمات منdentالبشريين في المملكة المتحدة.

مقارنة بين تقييمات الذكاء الاصطناعي والتقييمات البشرية

في هذا البحث الرائد، طُلبdentمن البشر في المملكة المتحدة في البداية ترتيب مكانة وقيمة المهن المختلفة اجتماعياً. بعد ذلك، كُلِّف نموذج GPT-4 بتقديم ترتيب مماثل، يحاكي وجهات نظر 100 مشارك تمdentعشوائياً، يمثل كل منهم "نموذجاً نموذجياً للمواطن البريطاني" 

هدفت الدراسة إلى قياس مدى تقارب تقييمات نظام الذكاء الاصطناعي مع تقييمات المشاركين البشريين، وما إذا كان الذكاء الاصطناعي قد أظهر أي تحيزات ديموغرافية.

ومن الجدير بالذكر أن الدراسة وجدت ارتباطًا وثيقًا بين النتائج التي تم الحصول عليها من خلال هذين النهجين المختلفين. وقد أظهر نموذج GPT-tronكفاءة عالية في التنبؤ بمتوسط ​​آراء سكان المملكة المتحدة فيما يتعلق بمكانة وقيمة المهن الفردية، مما أدى فعليًا إلى إنشاء تصنيفات مهنية نسبية. 

إن هذه القدرة على فهم الآراء البشرية العامة خوارزمياً تحمل في طياتها إمكانية مساهمة الذكاء الاصطناعي في البحوث المهنية، مما يوفر مزايا مثل زيادة الكفاءة، وفعالية التكلفة، والسرعة، وتحسين الدقة في التقاط التصورات المجتمعية.

العلاقة المعقدة بين الذكاء الاصطناعي والهيبة المهنية

رغم أن الدراسة أبرزت إمكانات الذكاء الاصطناعي في أبحاث التوظيف، إلا أنها كشفت أيضاً عن عدة تحديات. فقد كان نموذج GPT-4 يميل إلى المبالغة في تقدير مكانة وقيمة المهن المرتبطة بالاقتصاد الرقمي أو تلك التي تتضمن عناصر تسويق ومبيعات قوية. 

في المقابل، قللت هذه التقنية من شأن المكانة والقيمة الاجتماعية المنسوبة لبعض المهن غير المشروعة أو التي تُوصم تقليديًا، مقارنةً بالمُقيّمين البشريين. علاوة على ذلك، عندما تم التلاعب بتعليمات خوارزمية الذكاء الاصطناعي، واجهت صعوبة في فهم التسلسل الهرمي للمكانة والقيمة الاجتماعية للمهن كما تراها الأقليات الديموغرافية في سياق المملكة المتحدة.

أهمية التحيزات الديموغرافية

أحد الجوانب الحاسمة التي تم التركيز عليها في البحث هو وجود تحيزات ديموغرافية في نماذج الذكاء الاصطناعي. تعكس نماذج اللغة الكبيرة الحالية، بما في ذلك GPT-4، في المقام الأول آراء السكان الغربيين المتعلمين والصناعيين والأغنياء (WEIRD). 

على الرغم من كون هذه المجموعات أقلية عالمية، إلا أنها ساهمت بشكل كبير في البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي. ونتيجة لذلك، قد تستبعد أنظمة الذكاء الاصطناعي مثل GPT-4، دون قصد، وجهات نظر الأقليات الديموغرافية أو الفئات المهمشة.

الآثار المترتبة على الذكاء الاصطناعي في عالم العمل

تُشير نتائج هذه الدراسة إلى آثار بعيدة المدى على تطبيق أنظمة الذكاء الاصطناعي في عالم العمل. فبينما يُمكن للذكاء الاصطناعي أن يكون أداةً تكميليةً قيّمة، لا سيما في معالجة كميات هائلة من البيانات النصية والصوتية والمرئية غير المنظمة، إلا أنه يجب دراسة حدوده بعناية. 

يشمل ذلك احتمال إغفالها لآراء ووجهات نظر الأقليات الديموغرافية. وفي سياقات مثل تقديم المشورة المهنية أو إجراء تقييمات الأداء الخوارزمية، تؤكد الدراسة على أهمية معالجة هذه القيود وضمان العدالة والشمولية.