يضغط المشرعون البريطانيون لإجراء اختبارات تحمل الذكاء الاصطناعي لتجنب اضطرابات السوق

تضغط مجموعة من المشرعين البريطانيين من مختلف الأحزاب على الجهات التنظيمية لتبني اختبارات الضغط التي تركز على الذكاء الاصطناعي للقطاع المالي، محذرين من أن الاستخدام المتزايد للذكاء الاصطناعي قد يعرض المستهلكين والأسواق لاضطرابات خطيرة إذا تُرك دون إدارة.

في تقرير نُشر يوم الثلاثاء، انتقدت لجنة الخزانة المختارة هيئة السلوك المالي وبنك إنجلترا لما وصفه أعضاء البرلمان بأنه موقف تنظيمي حذر "انتظار وترقب" تجاه الذكاء الاصطناعي، على الرغم من اعتماده على نطاق واسع في جميع أنحاء مدينة لندن.

أكد المسؤولون أن التطور التكنولوجي المتسارع يتطلب استجابات أسرع من هيئات الرقابة، كإدخال اختبارات الضغط. ومع تزايد اعتماد شركات التمويل على الذكاء الاصطناعي، قد يؤدي التأخير إلى الإضرار بالاستقرار. فعندما تتولى الآلات عمليات التداول، أو الموافقة على القروض، أو التنبؤ بالمخاطر، قد ripple العيوب عبر منصات متعددة دون سابق إنذار. وإذا تعطلت عدة أنظمة في آن واحد، فقد يندلع اضطراب قبل أن يتمكن أحد من اتخاذ أي إجراء.

يقول المشرعون إن الذكاء الاصطناعي قد يزعزع استقرار الأسواق المالية.

تتزايد التحذيرات بشأن ثغرات الرقابة مع التطور السريع للذكاء الاصطناعي في القطاع المالي البريطاني. ويشير بعض المسؤولين إلى عدم إيلاء الاهتمام الكافي لما قد يحدث إذا تجاوزت الأنظمة قدرة الرقابة. وتُشير لجنة الخزانة البرلمانية إلى تأخر بنك إنجلترا وهيئة السلوك المالي ووزارة الخزانة في إدارة المخاطر. كما أن وتيرة استخدام الشركات الخاصة للأدوات المتقدمة تتجاوز الجهود الحالية لوضع القواعد.

قد يؤدي التأخير إلى وقوع المشاكل قبل أن يتمكن أحد من الاستجابة. وتشير اللجنة إلى أن المسؤولين يترددون، على أمل ألا تظهر المشاكل. فعندما تتعطل الأنظمة، قد لا يكون هناك مجال يُذكر لإصلاح الأمور بالسرعة الكافية. وبدلاً من التدخل لاحقاً، يُعدّ مراقبة أداء الذكاء الاصطناعي في اللحظات العصيبة أكثر منطقية. ويعتقد المسؤولون أن الاستعداد أفضل من التخبط عندما يكون كل شيء على وشك الانهيار.

تعتمد الشركات في جميع أنحاء القطاع المالي بالمملكة المتحدة بشكل متزايد على الذكاء الاصطناعي يوميًا، غالبًا دون إجراء اختبارات مكثفة لكيفية أداء الأنظمة تحت الضغط. يستخدم أكثر من 75% من المؤسسات المالية البريطانية الذكاء الاصطناعي في وظائفها المركزية، لذا فإن تأثيره على الخيارات الاقتصادية، إن وُجد، غير مرئي. تُتخذ قرارات الاستثمار باستخدام منطق الآلة بدلًا من الحدس البشري. تُوجّه الأتمتة عمليات الموافقة، بينما تُقيّم الخوارزميات أهلية الاقتراض دون مراجعة تقليدية. لا تُعتمد مطالبات التأمين على تقييمات الموظفين، بل على تقييمات مُبرمجة.

حتى أبسط المعاملات الورقية تُنجز إلكترونياً بدلاً من يدوياً. السرعة هي defiلهذه العمليات؛ ومع ذلك، فإن السرعة تزيد من احتمالية ظهور الأخطاء. قد يكون لأي خطأ واحد صدى واسع نظراً للعلاقات الوثيقة بين المؤسسات.

أوضح جوناثان هول، العضو الخارجي في لجنة السياسة المالية ببنك إنجلترا، للمشرعين أن اختبارات الضغط المصممة خصيصًا للذكاء الاصطناعي قد تساعد هيئات الرقابة على اكتشاف المخاطر الناشئة في وقت مبكر. وأضاف أن سيناريوهات الضغط التي تحاكي اضطرابات السوق الحادة قد تكشف عن مواطن الضعف في أطر الذكاء الاصطناعي قبل حدوث آثار أوسع على مرونة النظام المالي. 

يحث أعضاء البرلمان الجهات التنظيمية على اختبار مخاطر الذكاء الاصطناعي ووضع قواعد واضحة

يبدو إصرار أعضاء البرلمان على اتخاذ خطوات أكثر حزماً لمنع الذكاء الاصطناعي من تقويض الاستقرار الاقتصادي بهدوء، بدءاً بتقييمات الضغط، أمراً منطقياً بالنسبة لهيئات الرقابة. ويواجه المشرفون الماليون ضغوطاً متزايدة من المشرعين لتبني تقييمات مصممة خصيصاً للذكاء الاصطناعي، على غرار تلك المستخدمة للبنوك في فترات الركود الاقتصادي.

تحت الضغط، قد تتصرف الأدوات الآلية بشكل غير متوقع؛ لذا تحتاج الجهات الرقابية إلى أدلة، لا مجرد افتراضات. ومن خلال هذه التجارب فقط تستطيع السلطات أن ترى بدقة كيف يمكن للخوارزميات أن تُحدث اضطرابًا أو تُفاقم الاضطرابات بمجرد تغير الأسواق.

قد تحاكي اختبارات الضغط ما يحدث إذا أحدث الذكاء الاصطناعي اضطرابًا غير متوقع في الأسواق. فعندما تتصرف الخوارزميات بشكل غير طبيعي أو تتوقف عن العمل، يمكن لهيئات الرقابة مراقبة ردود فعل البنوك تحت الضغط. 

يُسهم الاستعداد المسبق في الكشف عن مواطن الضعف، ليس فقط في منصات التداول، بل أيضاً في تقييمات المخاطر وإجراءات الحماية داخل المؤسسات. ويبدو أن معالجة المشكلات مبكراً أكثر حكمة من الاستجابة بعد انتشار الفوضى بسرعة في القنوات المالية. إنdentالمشكلات مسبقاً سيمكن كلاً من الجهات الرقابية والشركات من تعديل المسار في الوقت المناسب.

إلى جانب اختبارات التحمل، يؤكد أعضاء البرلمان على ضرورة وجود مبادئ توجيهية واضحة تنظم الاستخدام الروتيني للذكاء الاصطناعي في المؤسسات المالية. ويُحثّون هيئة السلوك المالي على وضع حدود واضحة لتطبيقات الذكاء الاصطناعي الأخلاقية في الواقع العملي.

يجب أن توضح الإرشادات كيفية تطبيق حماية المستهلك الحالية عندما تتخذ الأنظمة الآلية القرارات بدلاً من البشر، مما يمنع حدوث ثغرات في المساءلة أثناء حالات الفشل. وينبغي أن يكون تحديد المسؤولية واضحاً إذا أدى الذكاء الاصطناعي أداءً خاطئاً، مما يجعل من المستحيل على الشركات إلقاء اللوم على الآلات.

في حال حدوث خلل في منصة تقنية رئيسية واحدة، قد تتعثر العديد من البنوك. وتتحمل حفنة من الشركات الآن مسؤولية كبيرة في ضمان استمرار عمل الأنظمة المصرفية في جميع أنحاء البلاد. 

عندما تواجه الخدمات التي تستضيفها شركات مثل أمازون ويب سيرفيسز أو جوجل كلاود مشاكل، ripple بسرعة. ويشير المشرعون إلى مدى هشاشة الأنظمة عندما يعتمد الكثيرون على عدد قليل من الجهات. فكلما زاد الاعتماد، زادت حدة الضرر الذي يلحق بالجميع في حال حدوث أي خلل.