كشف التحيز اللغوي: نماذج الذكاء الاصطناعي متورطة في دراسة عنصرية خفية

كشف دراسة أولية من جامعة كورنيل عن نتائج مقلقة بشأن وجود تحيز لغوي في نماذج اللغة الكبيرة (LLMs). وقد وُجد أن خوارزميات التعلم العميق هذه، بما في ذلك ChatGPT وGPT-4 من OpenAI، وLLaMA2 من Meta، وMistral 7B الفرنسي، تظهر عنصرية خفية في ردودها.

التعامل مع التحيز اللغوي في الذكاء الاصطناعي

تسلط الدراسة، التي قادها الباحث Valentin Hofmann من معهد Allen للذكاء الاصطناعي، الضوء على الآثار المحتملة لهذا التحيز في مجالات مختلفة، بما في ذلك إنفاذ القانون وممارسات التوظيف.

باستخدام طريقة تسمى المسح بالتمثيل المتطابق (matched guise probing)، طلب الباحثون من نماذج اللغات الكبيرة (LLMs) معالجة نصوص بلغة الأمريكيين الأفارقة والإنجليزية الأمريكية المعيارية، بهدف الكشف عن أي تحيزات في استجابات الخوارزميات. 

وبشكل مثير للصدمة، أظهرت الدراسة أن بعض نماذج اللغات الكبيرة، ولا سيما GPT-4، كانت أكثر ميلاً إلى التوصية بعقوبات قاسية، بما في ذلك عقوبة الإعدام، عندما كانت النصوص بلغة الأمريكيين الأفارقة. ومن الجدير بالذكر أن هذه التوصيات صدرت دون أي إفصاح عن عرق المتحدث.

تميل نماذج اللغات الكبيرة إلى ربط متحدثي اللغة الأمريكية الأفريقية بمهن ذات مكانة اجتماعية أقل مقارنة بمن يتحدثون الإنجليزية المعيارية، رغم عدم إخبارها بهويات المتحدثين العرقية. تؤكد الدراسة أنه على الرغم من تراجع العنصرية الصريحة في نماذج اللغات الكبيرة، إلا أن التحيزات الخفية لا تزال قائمة ويمكن أن يكون لها تداعيات بعيدة المدى.

تداعيات على العدالة والتوظيف

إن تداعيات هذه النتائج عميقة، خاصة في القطاعات التي تُستخدم فيها أنظمة الذكاء الاصطناعي التي تتضمن نماذج لغات كبيرة. في الإجراءات القانونية، على سبيل المثال، يمكن للتوصيات المتحيزة أن تؤدي محتملاً إلى نتائج غير عادلة، مما يؤثر بشكل غير متناسب على المجتمعات المهمشة. 

وبالمثل، في بيئات العمل، يمكن للتقييمات المتحيزة للمرشحين بناءً على اللغة أن تستمر في إدامة عدم المساواة القائمة في ممارسات التوظيف.

تسلط هوفمان الضوء على قصور الأساليب التقليدية في تعليم نماذج اللغات الكبيرة أنماطاً جديدة، مشيرة إلى أن التغذية الراجعة البشرية وحدها لا تفعل الكثير لمقاومة التحيز العرقي الخفي. علاوة على ذلك، تقترح الدراسة أن الحجم الهائل لنماذج اللغات الكبيرة لا يخفف بالضرورة من هذا التحيز؛ بل قد يمكنها من إخفائه بشكل سطحي مع الحفاظ عليه على مستوى أعمق.

معالجة التحيز اللغوي في تطوير الذكاء الاصطناعي

مع استمرار تقدم التكنولوجيا، يصبح من الضروري للشركات التقنية معالجة قضية تحيز الذكاء الاصطناعي بفعالية أكبر. مجرد الاعتراف بوجود التحيز ليس كافياً؛ يجب اتخاذ إجراءات استباقية للتخفيف من آثاره. 

يشمل ذلك إعادة تقييم الطرق المستخدمة في تدريب نماذج اللغات الكبيرة وضبطها، فضلاً عن تنفيذ آليات قوية للكشف عن التحيز وتصحيحه في أنظمة الذكاء الاصطناعي.

تؤكد نتائج هذه الدراسة على الحاجة الملحة لمزيد من التدقيق والمساءلة في تطوير ونماذج الذكاء الاصطناعي ونشرها. إن الفشل في معالجة التحيز اللغوي في نماذج اللغات الكبيرة قد يؤدي إلى إدامة الظلم المنهجي ويعيق التقدم نحو مجتمع أكثر إنصافاً.

من خلال رفع مستوى الوعي بهذه القضايا والدعوة إلى تغيير ذي معنى، يمكن لأصحاب المصلحة العمل معاً لضمان أن تقنيات الذكاء الاصطناعي تلتزم بمبادئ الإنصاف والموضوعية، مما يفيد المجتمع ككل في النهاية.