نماذج الذكاء الاصطناعي تصبح متحفظة تجاه المخاطر عندما يُطلب منها التصرف كنساء، تظهر الدراسة

كشف بحث جديد أن نماذج الذكاء الاصطناعي تصبح متحفظة تجاه المخاطر عندما يُطلب منها التصرف كنساء. وفقاً للورقة من جامعة علامه طباطبائي في طهران، إيران، تصبح نماذج الذكاء الاصطناعي حذرة بشأن تحمل المخاطر عندما يُطلب منها اتخاذ قرارات بصفتها امرأة.

وفقاً لورقة البحث، إذا طُلب من نفس نموذج الذكاء الاصطناعي التفكير كرجل، فإنه يميل إلى اتخاذ قرارات ذات احتمالية أكبر للمخاطر.

كشف الباحثون أن نماذج اللغات الكبيرة تغير منهجيتها الأساسية في سلوك المخاطر المالية بشكل منهجي بناءً على الهوية الجندرية التي يُطلب منها افتراضها. اختبرت الدراسة أنظمة الذكاء الاصطناعي من شركات مثل OpenAI، وجوجل، وديب سيك، وميتا.

الدراسة تظهر أن نماذج الذكاء الاصطناعي تصبح متحفظة تجاه المخاطر اعتماداً على الهوية الجندرية

ذكر الدراسة أن نماذج الذكاء الاصطناعي تم اختبارها في سيناريوهات متعددة، وشهدت تحولاً دراماتيكيًا في تحمل المخاطر عند مطالبتها بهويات جندرية مختلفة. أظهر DeepSeek Reasoner وGemini 2.0 Flash-Lite من جوجل أكثر التأثير وضوحاً، حيث أصبحا أكثر تحفظاً تجاه المخاطر عند طلب الرد بصفتهم نساءً، مما يظهر ارتباطاً بأنماط العالم الحقيقي حيث تظهر النساء إحصائياً حذراً أكبر في اتخاذ القرارات المالية.

ادعى الباحثون أنهم استخدموا اختبار اقتصادي قياسي يُعرف بمهمة هولت-لوري. خلال المهمة، يقدمون للمشاركين 10 قرارات بين خيارات اليانصيب الآمنة والأكثر مخاطرة. مع تقدم الاختيار، تزداد احتمالية الفوز للخيار الأكثر مخاطرة.

المرحلة التي ينتقل فيها المشارك من الرهان الآمن إلى الخيار المخاطر تكشف عن تحمله للمخاطر. هذا يعني أنه إذا انتقل المشارك مبكراً، فهو عرضة لتحمل المخاطر، وإذا انتقل متأخراً، فهو متحفظ تجاه المخاطر.

في حالة DeepSeek Reasoner، اختار باستمرار الخيار الآمن عندما طُلب منه التصرف كمرأة مقارنةً عندما طُلب منه التصرف كرجل. كان الفرق واضحاً، مع إظهار النموذج للاتساق عبر 35 تجربة لكل مطالبة جندرية.

أظهر Gemini أيضاً أنماطاً مشابهة، على الرغم من تفاوت قوة التأثير. من ناحية أخرى، ظلت نماذج GPT من OpenAI غير متأثرة بالمطالبات الجندرية، مع الحفاظ على نهج محايد تجاه المخاطر بغض النظر عن الجنس الذي طُلب منهم افتراضه.

يقول الباحثون إن المستخدمين لا يلاحظون هذه التغييرات

وفقاً للباحثين، كانت OpenAI تعمل على جعل نماذجها أكثر توازناً. أظهرت دراسة سابقة من عام 2023 أن نماذجها أظهرت تحيزاً سياسياً واضحاً، وهو ما يبدو أن OpenAI قد عالجه الآن.

في البحث الجديد، أنتجت النماذج انخفاضاً بنسبة 30% في الردات المتحيزة. ذكر فريق البحث، بقيادة علي مزيكي، أن هذا يعكس في الأساس الصور النمطية البشرية.

"انحراف الملاحظة هذا يتماشى مع الأنماط الراسخة في صنع القرار البشري، حيث ثبت أن الجنس يؤثر على سلوك تحمل المخاطر، حيث تظهر النساء عادةً تحفظاً أكبر تجاه المخاطر من الرجال،" تقول الدراسة.

فحصت الدراسة أيضاً ما إذا كانت نماذج الذكاء الاصطناعي يمكنها لعب أدوار أخرى تتجاوز الجنس بإقناع. عند طلب تخيل أنفسهم كشخص في السلطة أو في سيناريو كارثة، عدلت النماذج. بينما عدل بعضها ملفات المخاطر الخاصة بها حسب السياق، ظل آخرون عنيداً ومتسقاً.

يدعي الباحثون أن العديد من هذه الأنماط السلوكية ليست واضحة فوراً للمستخدمين. قد يعزز نموذج ذكاء اصطناعي يغير توصياته بشكل دقيق بناءً على إشارات الجنس في المحادثة التحيز المجتمعي دون أن يدرك أحد حدوث ذلك.

على سبيل المثال، يصبح نظام الموافقة على القروض أكثر تحفظاً عندما يتعلق الأمر بالنساء، أو مستشار استثماري يقترح محفظة آمنة لأن عميله أنثى، سيحمل تبايناته تحت غطاء الموضوعية الخوارزمية.