أدوات الذكاء الاصطناعي سيف ذو حدين بين التقدم والتحيز الجنساني

في أعقاب التطورات الحديثة، أخذت الذكاء الاصطناعي (AI) العالم بالرياح. ظهر شات جي بي تي (ChatGPT)، وهو روبوت محادثة بالذكاء الاصطناعي، كمثال رئيسي على عجائب ومخاطر الذكاء الاصطناعي. بينما تعد أدوات الذكاء الاصطناعي بالكفاءة والقدرات المتقدمة، إلا أنها تأتي مع خطر تضخيم التحيزات الموجودة.

التحيز الجنسي في الذكاء الاصطناعي هو منفتح العينين

أظهر تطبيق إنشاء الصور الرمزية الشهير Lensa AI كيف يمكن أن تُدمج التحيزات الجنسانية بشكل غير مقصود في البرمجيات. يقوم التطبيق بتجنيس الصور الرمزية للإناث بشكل مفرط، بينما يتم تصميم الصور الرمزية للذكور كمحاربين أو رواد فضاء. ومع ذلك، فإن القضية لا تقتصر على التمثيل البصري. لوحظ أن ChatGPT-4، على الرغم من تقييم مخاطر OpenAI، ينتج نصوصاً تعزز الصور النمطية الجنسانية. في سيناريو افتراضي حيث طُلب من الروبوت الدردشة كتابة قصة عن صبي وفتاة يختاران مواد جامعية، صور الروبوت الصبي يختار العلوم والتكنولوجيا، بينما سارت الفتاة في فنون جميلة، مؤكدة على الأدوار الجنسانية التقليدية.

كيف يتعلم الذكاء الاصطناعي ويقرر

تعتمد أنظمة الذكاء الاصطناعي على نماذج التعلم الآلي الخاضعة للإشراف أو غير الخاضعة للإشراف. بينما تسمح النماذج الخاضعة للإشراف بالإشراف البشري أثناء عملية التعلم، تتعلم النماذج غير الخاضعة للإشراف بشكل مستقل. يمكن أن تكون هذه النماذج غير متوقعة لأن المطورين يكتشفون الأخطاء بشكل رئيسي في مرحلة الإخراج.

تفسير الذكاء الاصطناعي للجنس

تمر البيانات المستخدمة في تدريب أنظمة الذكاء الاصطناعي بعملية تسمية، حيث يصنف معلقو البيانات البيانات بناءً على إرشادات معينة. يمكن إدخال التحيزات بشكل غير مقصود إذا كان لدى المعلقين تحيزات شخصية أو إذا كانت الإرشادات متحيزة بطبيعتها. ونتيجة لذلك، قد تنتج أنظمة الذكاء الاصطناعي المدربة على مثل هذه البيانات مخرجات منحازة أو متحيزة.

ما وراء Lensa AI، أمثلة أخرى على التحيز الجنسي في الذكاء الاصطناعي

ليس فقط تطبيقات الصور الرمزية التي تظهر التحيزات الجنسانية. كانت هناك حالة كبيرة عندما تم الكشف عن أن خوارزمية بطاقة الائتمان الخاصة بأبل كانت تفضل العملاء الذكور من خلال تقديم خطوط ائتمان أعلى، حتى عندما كان لدى بعض العملاء سجلات ائتمانية قابلة للمقارنة أو أسوأ من العملاء الإناث.

انعكاس التحيزات المجتمعية في الذكاء الاصطناعي

التحيزات الكامنة في أنظمة الذكاء الاصطناعي تعكس التحيزات المجتمعية لمطوريها. الذكاء الاصطناعي ليس موضوعياً تماماً؛ يمكنه بشكل غير مقصود الاستمرار في الصور النمطية والتحيزات الموجودة مسبقاً إذا لم يتم تصميمه بنهج نقدي وغير متحيز.

أهمية التنوع في تطوير الذكاء الاصطناعي

التنوع أمر بالغ الأهمية. صناعة تطوير البرمجيات، مع وجود 8٪ فقط من النساء، تفتقر إلى التنوع. لتقليل التحيزات في الذكاء الاصطناعي، من الضروري وجود فرق تطوير متنوعة يمكنها توفير مجموعة واسعة من وجهات النظر، مما يقلل من نطاق التحيزات اللاواعية التي تتسلل إلى أنظمة الذكاء الاصطناعي.

وعي المنظمات والخطوات نحو التخفيف

العديد من شركات التكنولوجيا تدرك تحيزات الذكاء الاصطناعي، بفضل الأبحاث والتحليلات الموثقة من قبل المجتمع المدني. اتخذت بعض المنظمات خطوات أولية لمعالجة القضية، على الرغم من أن الإجراءات وفعاليتها تظل غامضة. سيكون نهجاً متوازناً دمج خبراء الجنس والتكنولوجيا داخل الفرق، مما يضمن أن أدوات الذكاء الاصطناعي تُبنى ضمن إطار أخلاقي سليم.

مع استمرار الذكاء الاصطناعي في لعب دور محوري في المجتمع الحديث، يصبح معالجة التحيزات الكامنة أمراً بالغ الأهمية. تكمن التحدي ليس فقط في تطوير أدوات الذكاء الاصطناعي ولكن في تطبيقها بأخلاقيات وبدون تحيز. ضمان أن يعكس الذكاء الاصطناعي أفضل ما في البشرية، بدلاً من تحيزاتها، هو مسؤولية يجب أن يتحملها قطاع التكنولوجيا والمجتمع ككل.