مشرعون بريطانيون يدفعون نحو اختبارات إجهاد للذكاء الاصطناعي لتجنب اضطرابات السوق

تضغط مجموعة عبر الأحزاب من المشرعين البريطانيين على المنظمين لاعتماد اختبارات إجهاد تركز على الذكاء الاصطناعي للقطاع المالي، محذرة من أن الاستخدام المتزايد للذكاء الاصطناعي قد يعرض المستهلكين والأسواق لاضطرابات خطيرة إذا تُرك دون إدارة.

في تقرير نُشر يوم الثلاثاء، انتقدت لجنة الخزانة البرلمانية هيئة الرقابة المالية (FCA) وبنك إنجلترا لما وصفه النواب بموقف تنظيمي حذر من نوع «انتظر وراقب» تجاه الذكاء الاصطناعي، على الرغم من اعتماده الواسع عبر مدينة لندن المالية.

أعلن المسؤولون أن التكنولوجيا سريعة التطور تتطلب استجابات أسرع من هيئات الإشراف، مثل إدخال اختبارات الإجهاد. ومع اعتماد الشركات المالية بشكل متزايد على الذكاء الاصطناعي، قد تكلف التأخيرات الاستقرار. عندما تتولى الآلات تنفيذ الصفقات أو الموافقات على القروض أو التنبؤ بالمخاطر، يمكن أن تنتشر العيوب عبر منصات متعددة دون إنذار. وإذا تعثرت عدة أنظمة معًا، قد تنشب الفوضى قبل أن يتفاعل أحد.

يقول المشرعون إن الذكاء الاصطناعي قد يزعزع استقرار الأسواق المالية.

تظهر تحذيرات متزايدة حول ثغرات في الإشراف مع تقدم الذكاء الاصطناعي بسرعة في القطاع المالي البريطاني. يشير بعض المسؤولين إلى أن الاهتمام غير الكافي يُمنح لما قد يحدث إذا سارت الأنظمة بعيدًا جدًا عن نطاق الإشراف. وتشير لجنة الخزانة البرلمانية إلى التأخيرات من قبل بنك إنجلترا، وهيئة الرقابة المالية، والخزانة في إدارة المخاطر. يتفوق وتيرة الشركات الخاصة التي تستخدم أدوات متقدمة على جهود وضع القواعد الحالية.

قد يعني الانتظار طويلاً أن تضرب المشاكل قبل أن يتمكن أحد من الرد. تشير اللجنة إلى أن المسؤولين يتراجعون، آملين ألا تنشأ مشاكل. عندما تفشل الأنظمة، قد لا يكون هناك سوى مساحة ضئيلة لإصلاح الأمور بسرعة كافية. بدلاً من التدخل لاحقًا، يبدو أن مراقبة كيفية تصرف الذكاء الاصطناعي أثناء الأوقات الصعبة أكثر منطقية. يعتقد المسؤولون أن الاستعداد أفضل من الارتجال عندما يكون كل شيء ينهار بالفعل.

تعتمد الشركات عبر القطاع المالي البريطاني بشكل متزايد على الذكاء الاصطناعي كل يوم، غالبًا دون اختبار الإجهاد لكيفية أداء الأنظمة تحت الضغط. يستخدم أكثر من 75% من المؤسسات المالية البريطانية الذكاء الاصطناعي عبر الوظائف المركزية، لذا فإن تأثيره على القرارات الاقتصادية، إن وجد، غير مرئي. تُتخذ قرارات الاستثمار باستخدام المنطق الآلي بدلاً من الحدس البشري. توجه الأتمتة الموافقات، بينما تقيم الخوارزميات الأهلية الاقتراض دون مراجعة تقليدية. تتقدم مطالبات التأمين ليس بناءً على تقييمات الموظفين الإداريين بل على تقييمات مبرمجة.

حتى الأوراق الأساسية تُعالج رقميًا بدلاً من يدويًا. السرعة تحدد هذه العمليات؛ ومع ذلك، تزيد السرعة من التعرض عند ظهور عيوب. قد يتردد خطأ واحد على نطاق واسع لأن الروابط بين المنظمات وثيقة.

قال جوناثان هول، العضو الخارجي في لجنة السياسة المالية لبنك إنجلترا، أمام المشرعين إن اختبارات الإجهاد المصممة خصيصًا للذكاء الاصطناعي يمكن أن تساعد هيئات الإشراف في اكتشاف المخاطر الناشئة في وقت أبكر. وقد أوضح أن سيناريوهات الإجهاد التي تحاكي اضطرابات السوق الشديدة قد تكشف عن نقاط الضعف في أطر الذكاء الاصطناعي قبل حدوث تأثيرات أوسع على المرونة النظامية. 

نواب يدعون الجهات التنظيمية لاختبار مخاطر الذكاء الاصطناعي ووضع قواعد واضحة

يبدو منطقياً أن إصرار النواب على اتخاذ خطوات أكثر صرامة لمنع الذكاء الاصطناعي من تقويض الاستقرار الاقتصادي بشكل خفي، بدءاً من تقييمات الإجهاد، هو أمر يتعين على هيئات الرقابة المالية الالتزام به. تواجه المشرفون الماليون ضغوطاً متزايدة من المشرعين لاعتماد تقييمات مخصصة تركز على الذكاء الاصطناعي، على غرار تلك المستخدمة للبنوك خلال فترات الركود.

قد تتصرف الأدوات الآلية بشكل غير متوقع تحت الضغط؛ وتحتاج الجهات الرقابية إلى أدلة وليس افتراضات. فقط من خلال هذه التجارب يمكن للسلطات أن ترى بالضبط كيف قد تثير الخوارزميات اضطرابات أو تضخم الفوضى بمجرد تحول الأسواق.

قد تحاكي اختبارات الإجهاد ما يحدث إذا عطل الذكاء الاصطناعي الأسواق بشكل غير متوقع. عندما تتصرف الخوارزميات بشكل غريب أو تتوقف عن العمل، يمكن لهيئات الرقابة مراقبة ردود أفعال البنوك تحت الضغط. 

يُظهر الإعداد المسبق نقاط الضعف، ليس فقط في منصات التداول ولكن أيضاً في تقييمات المخاطر والضمانات داخل المؤسسات. يبدو إصلاح المشكلات في وقت أبكر حكمةً أكبر من الاستجابة بعد انتشار الفوضى بسرعة عبر القنوات المالية. سيسمح تحديد المشكلات مسبقاً لكل من المشرفين والشركات بضبط مسارها بينما لا يزال هناك وقت.

إلى جانب اختبارات الإجهاد، يؤكد أعضاء البرلمان على الحاجة إلى إرشادات واضحة تحكم الاستخدام الروتيني للذكاء الاصطناعي داخل المؤسسات المالية. يُطلب من هيئة السلوك المالي وضع حدود واضحة للتطبيقات الأخلاقية للذكاء الاصطناعي في البيئات الواقعية.

يجب أن توضح الإرشادات كيفية تطبيق حماية المستهلك الحالية عندما تتخذ الأنظمة الآلية القرارات بدلاً من البشر، مما يمنع فجوات في المساءلة أثناء الأعطال. يجب أن يكون تعيين المسؤولية صريحاً إذا ارتكب الذكاء الاصطناعي أخطاءً، مما يجعل من المستحيل على الشركات إلقاء اللوم على الآلات.

إذا حدث خطأ ما في منصة تقنية رئيسية واحدة، قد تتعثر العديد من البنوك معاً. تحتفظ مجموعة صغيرة من الشركات الآن بمسؤولية كبيرة عن استمرار عمل أنظمة البنوك في جميع أنحاء البلاد. 

عندما تواجه الخدمات المستضافة من قبل أسماء مثل خدمات Amazon Web أو Google Cloud مشاكل، فإن التأثيرات المتتالية تضرب بسرعة. يشير المشرعون إلى مدى هشاشة الأمور عندما يعتمد الكثيرون على القلة. وكلما كبر الاعتماد، زاد الضرر الذي يلحق بالجميع إذا تسلل خلل ما.