بنك إنجلترا يحذر من وكلاء الذكاء الاصطناعي كمصدر خطر على الاستقرار المالي، ويدعو لاستجابة تنظيمية عالمية

حذرت سارة بريدن، نائبة حاكم بنك إنجلترا لشؤون الاستقرار المالي، من أن الأنظمة المستقلة للذكاء الاصطناعي تشكل تهديداً متزايداً لأسواق المال والأمن السيبراني وبنية المدفوعات، داعية البنوك المركزية حول العالم إلى النظر في وضع لوائح أفضل لهذا القطاع.

وفي حديثها خلال المنتدى السنوي للبنك المركزي الأوروبي في سينترا، البرتغال، شرحت بريدن أن الذكاء الاصطناعي الوكيل (Agentic AI) يتقدم بسرعة أكبر مما توقعه المنظمون. ووفقاً لملاحظاتها، كان طول المهام البرمجية التي يمكن للنماذج الرائدة في الذكاء الاصطناعي إكمالها يتضاعف كل سبعة أشهر في عام 2019. ومع ذلك، بحلول عام 2024، كان هذا التضاعف يحدث كل أربعة أشهر.

تشير الاختراقات في اكتشاف الثغرات السيبرانية هذا الربيع إلى أن هذا الوتيرة قد تسارعت.

«لقد فوجئنا هذا الربيع، ويجب أن نكون مستعدين لمفاجآت تقنية أخرى»، قال بريدن في حدث 30 يونيو.

من توليد المحتوى إلى العمل المستقل

شددت بريدن على ثلاث مراحل مهمة من تطور الذكاء الاصطناعي، موضحة أنه في وقت سابق من العقد، كانت أنظمة الذكاء الاصطناعي التوليدي تنتج المحتوى فقط عند الطلب. وبحلول أواخر عام 2024، تم تدريب النماذج على التفكير في حل المشكلات متعددة الخطوات. والآن، يمكن للأنظمة الوكيلية التخطيط وتنفيذ تسلسلات من القرارات بشكل مستقل تماماً دون أي إشراف بشري.

وعند تطبيق ذلك على القطاع المالي، يشير هذا المسار إلى نظام يمكن فيه لوكلاء الذكاء الاصطناعي تداول الأوراق المالية ومعالجة المدفوعات والاستجابة للتهديدات السيبرانية بمشاركة بشرية محدودة. وذهبت بريدن إلى حد وصف نظام مالي «يعمل بشكل أكثر استقلالية، وعلى نطاق واسع وسرعة»، حيث يتصرف الوكلاء نيابة عن المستهلكين والتجار ومنصات التداول.

بنك إنجلترا قلق بشكل أكبر بشأن المخاطر السيبرانية

من بين مخاطر الاستقرار المالي العديدة، سلطت بريدن الضوء على الأمن السيبراني باعتباره القضية الأكثر أهمية. وأشارت إلى معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، الذي حدد تحسناً هائلاً في ما يمكن للذكاء الاصطناعي الوكيل القيام به عبر الإنترنت.

نفس الأدوات التي تساعد المدافعين في العثور على الثغرات وإصلاحها تمنح المهاجمين أيضاً القدرة على اكتشافها واستغلالها. وحذرت بريدن من أن الاستخدام الخبيث لهذه القدرات «يزيد بشكل كبير من فرص الهجمات التي يمكن أن تضر بالاستقرار المالي».

شملت ملاحظات بريدن اقتراحاً بأن تحتاج أدوات التداول المستقلة إلى «مفاتيح إيقاف» مدمجة لمنع صدمات السوق، وهو ما يمثل انحرافاً عن اللوائح الحالية.

موجة الاستثمار تثير مخاطر هائلة

ذكرت بريدن قلقاً آخر يتعلق بتمويل هذه الوكلاء الذكيين. خلصت لجنة السياسة المالية التابعة للبنك في أبريل إلى أنه بينما كانت شركات التكنولوجيا الكبيرة قد مولت في البداية إنشاء وصيانة البنية التحتية للذكاء الاصطناعي من التدفق النقدي وحقوق الملكية، فإن استخدام التمويل بالديون يزداد بسرعة ويتخذ أشكالاً جديدة ومعقدة.

وهذا يعني أن الانخفاض المفاجئ في تقييمات الأصول المتعلقة بالذكاء الاصطناعي يمكن أن يسبب الآن موجة هائلة عبر أسواق الائتمان. وقالت نائبة حاكم بنك إنجلترا إن اللجنة قدرت أن «الآثار المترتبة على الاستقرار المالي لأي انخفاض في أسعار الأصول المتعلقة بالذكاء الاصطناعي قد تزداد جيداً».

من المتوقع صدور تقييم أكثر تعمقاً من اللجنة حول هذا الموضوع في 7 يوليو.

جادلت بريدن أيضاً بأن البنوك المركزية تحتاج إلى التكيف لاستخدام الذكاء الاصطناعي نفسه في الإشراف على هذه الأنظمة، وليس التركيز فقط على إدارة المخاطر التي يقدمها الذكاء الاصطناعي.