حاكم بنك إنجلترا أندرو بيلي يبعث مخاوف الذكاء الاصطناعي في رسالة لمجموعة العشرين

حذر أندرو بيلي، حاكم بنك إنجلترا، كبار المسؤولين الماليين في العالم من أن أكثر نماذج الذكاء الاصطناعي تقدماً تهدد الآن استقرار النظام المالي العالمي.

يقول بيلي إن الهجمات الإلكترونية هي واحدة من المخاطر التي يجب على المنظمين القلق بشأنها أولاً. 

لماذا يُعد خطر القرصنة من الذكاء الاصطناعي مصدر قلق كبير في الوقت الحالي؟

في رسالة إلى وزراء مالية مجموعة G20، حذر أندرو بيلي، حاكم بنك إنجلترا، من أن أكثر نماذج الذكاء الاصطناعي تقدماً تشكل الآن تهديداً للنظام المالي العالمي. وأرسلت الرسالة قبل اجتماع مجموعة العشرين المقرر عقده في آشفيل بولاية نورث كارولاينا، حيث سيحضر المصرفيون المركزيون ووزراء المالية. 

أرسل بيلي التحذير بصفته رئيساً لمجلس الاستقرار المالي (FSB)، وهي مجموعة دولية تراقب المخاطر المالية. وفي الرسالة، وصف نماذج الذكاء الاصطناعي المتطورة بأنها "تظهر استقلالية وقدرة متزايدة على حل المشكلات، فضلاً عن قدرات التهديد." 

أبلغت Cryptopolitan أن البنوك البريطانية حاولت منذ أشهر الحصول على وصول تجريبي إلى نموذج Mythos الخاص بشركة Anthropic لفهم المخاطر التي تجلبها أدوات الذكاء الاصطناعي بشكل أفضل، لكنها لم تتمكن من ذلك بسبب التوترات السياسية في الولايات المتحدة. 

ومن الجدير بالذكر، على الرغم من أن الأداة مخصصة للدفاع، إلا أنها تقع في نفس فئة التكنولوجيا التي تشير إليها رسالة مجموعة العشرين الخاصة ببيلي كتهديد منهجي.

يريد بيلي من الحكومات الاتفاق على قواعد لإطلاق نماذج الذكاء الاصطناعي القوية بأمان قبل حدوث اختراق ذكي جديد. ويجادل بأن البنوك تعتمد على نفس المجموعة الصغيرة من موردي التكنولوجيا وأنظمة الحاسوب المشتركة، مما يعني أن الهجوم الإلكتروني على بنك واحد يمكن أن ينتقل بسرعة عبر الحدود إلى بنوك أخرى.

كتب بيلي أن الذكاء الاصطناعي المتقدم قد يكون لديه القدرة على تغيير سرعة ومقياس واقتصاديات المخاطر الإلكترونية بشكل جوهري،" مما يعني أن الذكاء الاصطناعي يمكن أن يجعل الهجمات الإلكترونية تحدث بشكل أسرع، وتسبب ضرراً أكبر، وتكون أقل تكلفة للمهاجمين لتنفيذها. 

تحذيرات بيلي ليست غير مبررة. فقد لاحظ موظفو OpenAI مؤخرًا علامات على سلوك سيئ في وكلاء الذكاء الاصطناعي المتطورين قبل أن تفلت هذه الوكلاء من بيئة التدريب الخاصة بهم. كما أفادت Anthropic مؤخرًا بأن نماذج الذكاء الاصطناعي الخاصة بها اخترقت ثلاث منظمات بشكل مستقل أثناء اختبار خاص.

في يونيو، أخبر نائب محافظ بنك إنجلترا، سارة بريدن، المصرفيين المركزيين في سينترا أن البنك يدرس "أزرار الطوارئ"، وهي أدوات طوارئ يمكنها إيقاف التداول على نطاق واسع في السوق إذا تسبب نماذج الذكاء الاصطناعي في انهيار. 

غطى موقع Cryptopolitan تحذيرها اللاحق بأن الأنظمة الوكيلية تشكل مخاطر متزايدة على الأسواق وأمن السيبرانيا وأنظمة الدفع.

هل يمكن أن يؤدي طفح الأسهم في الذكاء الاصطناعي إلى انهيار السوق؟

كانت النصف الثاني من رسالة بيلي يتعلق بمستويات الديون المتزايدة في أسواق السندات والأسهم. حذر من أن التقييمات العالية للأسهم، وتركز السوق، وحماس المستثمرين تجاه الذكاء الاصطناعي تتجمع بطريقة محفوفة بالمخاطر "قد تضخم تصحيحًا مستقبليًا للسوق."  

على سبيل المثال، تبلغ قيمة شركة Nvidia (NASDAQ: NVDA) الآن أكثر من 5.2 تريليون دولار. رفعت الشركة مؤخرًا 500 مليار دولار من مجموعة من البنوك والمستثمرين الأمريكيين، وصعدت أسهمها بنسبة 850٪ على مدى خمس سنوات.

قلق بيلي هو أن المستثمرين اقترضوا بكثافة لشراء حصص في مجموعة صغيرة من شركات الذكاء الاصطناعي. إذا انخفضت قيمة هذه الأسهم، فسيُجبر هؤلاء المستثمرون على بيع أصول أخرى لتعويض خسائرهم. قد يؤدي هذا البيع إلى دفع الأسعار إلى الهبوط أكثر وإنشاء انهيار أوسع في السوق.

كما أشار إلى أن الاقتراض في الولايات المتحدة تجاوز الآن 40 تريليون دولار، مما يضع ضغطًا على أسواق السندات التي تكون حساسة بالفعل لتغيرات أسعار الفائدة.