هل يُعد تحيز الذكاء الاصطناعي تهديداً صامتاً للاستقرار المالي أم دعوة للتطور الأخلاقي؟

في المشهد المتطور باستمرار لتكنولوجيا المالية، من المتوقع أن يعيد التكامل السريع للذكاء الاصطناعي (AI) وتعلم الآلة تشكيل الصناعة. ولكن، وسط هذا التحول الجذري، تبرز قضية حرجة—تحيز الذكاء الاصطناعي. ومع اعتماد المؤسسات المالية بشكل متزايد لنماذج الذكاء الاصطناعي، تأتي الأبعاد الأخلاقية المتعلقة بالتحيز والإنصاف والأثر الاجتماعي في المقدمة، مما يشكل مخاطر محتملة على كل من الشركات الفردية والاستقرار العام للنظام المالي.

تحيز الذكاء الاصطناعي في النماذج المالية

من المتوقع أن يشهد الذكاء الاصطناعي، وهو لاعب رئيسي في المجال المالي، زيادة في الاعتماد بمقدار 3.5 مرة على مدار السنوات الثلاث المقبلة. وبينما تعد نماذج الذكاء الاصطناعي بثورة في تفاعلات العملاء واتخاذ القرارات المالية، يلقي ظل بالتحيز في الذكاء الاصطناعي بظلاله على الصناعة. إن استخدام البيانات المتحيزة أو الخوارزميات غير الأخلاقية، كما هو موضح في DP5/22، لا يثير مخاوف بشأن حماية المستهلك فحسب، بل يقدم أيضاً مخاطر على الاستقرار المالي والاستقرار النقدي.

تمتلك نماذج الذكاء الاصطناعي، على عكس النماذج المالية التقليدية القائمة على القواعد، القدرة على التعلم بشكل تكراري والتكيف، وهي ميزة تمكّنها من فهم السيناريوهات المالية المعقدة والاستجابة لها. ولكن، يأتي هذا التكيف بثمن—وهو التحيز المحتمل. يمكن لنماذج الذكاء الاصطناعي المدفوعة بالكامل بالآلة، الخالية من التدخل البشري، أن تنتج مخرجات منحازة بسبب التحيزات الكامنة في بيانات التدريب أو هياكل النماذج. على سبيل المثال، أظهرت خوارزمية للرعاية الصحية في قطاع التأمين تحيزاً، حيث قللت من تقدير شدة الحالات الصحية لدى المرضى السود مقارنة بنظرائهم البيض، مما أدى إلى توفير رعاية صحية غير متكافئة.

الوجوه المزدوجة لتحيز الذكاء الاصطناعي

يتطلب فهم تحيز الذكاء الاصطناعي الغوص في جوانبه المزدوجة: تحيز البيانات والتحيز المجتمعي. ينشأ تحيز البيانات من بيانات التدريب نفسها، حيث يدمج التحيزات المجتمعية التي يمكن تكرارها على نطاق أوسع. توضح دراسة جوي بولاميني حول برامج التعرف على الوجه تحيز البيانات، حيث أدت مجموعة بيانات تدريب منحازة إلى معدلات خطأ أعلى للأفراد من الأقليات العرقية. قد تؤدي المحاولات للقضاء على تحيز البيانات عن طريق استبعاد الخصائص المحمية إلى نتائج عكسية، حيث يمكن للخصائص غير المحمية أن تعمل كبدائل، مما يعزز اتخاذ القرارات التمييزية.

من ناحية أخرى، ينشأ التحيز المجتمعي من الأعراف المجتمعية والإرث التاريخي. أظهرت خوارزمية توظيف طورتها أمازون تحيزاً جنسانياً، حيث سجلت المتقدمات للوظائف بشكل سلبي بسبب مجموعة بيانات تدريبية تمتد لعقد من الزمان تعكس هيمنة الذكور في الصناعة. إذا لم يتم تحديد نقاط العمى المتعلقة بالتحيز الجنسي، فقد تتسرب إلى الأنظمة المالية، مما يؤثر على الثقة وقد يؤدي إلى عدم استقرار مالي.

إن الاعتراف بأن الذكاء الاصطناعي يمكن أن يؤثر على الاستقرار المالي يقدم بُعداً دقيقاً لخطاب تحيز الذكاء الاصطناعي. تطرح نماذج الصندوق الأسود المستخدمة من قبل شركات متعددة في استراتيجيات التداول تحديات لكل من المشاركين في السوق والمشرفين في التنبؤ بالتأثيرات السوقية. وبصرف النظر عن ديناميكيات السوق، تأخذ قضايا الإنصاف مركز الصدارة حيث تتشابك مع الاستقرار المالي، مما يؤكد الدور المحوري للثقة.

يمكن أن تتآكل الثقة، وهي حجر الزاوية للاستقرار المالي، بسبب تطبيقات الذكاء الاصطناعي المتحيزة. تؤكد بنك دي نيدرلانديش (De Nederlandsche Bank) على أهمية الإنصاف في تطبيقات الذكاء الاصطناعي للحفاظ على الثقة المجتمعية في القطاع المالي. تشير الفوارق التي حددها بارتليت وآخرون في خوارزميات التكنولوجيا المالية، على الرغم من انخفاضها مقارنة بالمقرضين وجهاً لوجه، إلى استمرار التمييز. إن الثقة في الذكاء الاصطناعي أمر بالغ الأهمية ليس فقط للاستقرار العام للنظام المالي ولكن أيضاً للمؤسسات الفردية، حيث يمكن أن تؤدي المخاطر السمعية والقانونية المرتبطة باستخدام الذكاء الاصطناعي المتحيز إلى خسائر مادية.

بينما لم تتحقق بعد حوادث ملموسة للمخاطر المتعلقة بالذكاء الاصطناعي على نطاق واسع، تقدم حالة بطاقة الائتمان المشتركة بين أبل وجولدمان ساكس لمحة عن المزالق المحتملة. أظهر النموذج، الذي كان يبدو غير متحيز في مدخلاته، قرارات إقراض متحيزة، مما يسلط الضوء على الطبيعة الدقيقة لتحيز الذكاء الاصطناعي. هذا الحادث، على الرغم من أنه لم ينتهك متطلبات الإقراض العادل، أثار النقاش العام حول الآثار الأوسع للتحيز القائم على الجنس في الخوارزميات.

التنقل في مستقبل الذكاء الاصطناعي في القطاع المالي

مع استمرار صعود الذكاء الاصطناعي في الخدمات المالية، يجب عبور الميدان الألقي للأخلاق والتحيز بحذر. وبصرف النظر عن مشكلاته الكامنة، يشكل الذكاء الاصطناعي المتحيز تهديداً محتملاً للاستقرار المالي. وتواجه البنوك المركزية، التي تتوقع تسارع اعتماد الذكاء الاصطناعي، المهمة الحاسمة بتقييم المخاطر الناجمة عن التحيز والإنصاف والمخاوف الأخلاقية. إن التوازن الدقيق بين التقدم التكنولوجي والمسؤولية الأخلاقية سيحدد المشهد المستقبلي للذكاء الاصطناعي في القطاع المالي، مما يقرر ما إذا كان سيصبح قوة للتغيير الإيجابي أم مصدراً لعدم الاستقرار.