أصدر بنك الاحتياطي الهندي مسودة قواعد حوكمة الذكاء الاصطناعي التي تتطلب وجود مفاتيح إيقاف التشغيل وإشراف مجلس الإدارة على البنوك

أصدر بنك الاحتياطي الهندي مسودة توجيهات من شأنها أن تجبر البنوك والكيانات المالية الأخرى الخاضعة للتنظيم على تبني الهياكل الموضوعة لإدارة المخاطر المرتبطة بالذكاء الاصطناعي ونماذج التعلم الآلي.

ستتضمن أنظمة إدارة المخاطر المقترحة هذه مفاتيح إيقاف إلزامية تعمل على إيقاف أي نظام ذكاء اصطناعي ينتج مخرجات ضارة على الفور.

مصالح بنك الاحتياطي الهندي

القواعد والإرشادات المقترحة للتخفيف من مخاطر الذكاء الاصطناعي هذه التي وضعها بنك الاحتياطي الهندي متاحة للتعليق العام حتى 24 يوليو. وتغطي هذه الإرشادات كل نموذج مستخدم في العمليات المصرفية، بدءًا من آلات حاسبة الجداول الإلكترونية الأساسية وحتى أنظمة الذكاء الاصطناعي التوليدية المعقدة.

يتعين على البنوك الاحتفاظ بسجلات لجميع النماذج المستخدمة في عملياتها، وتقييم المخاطر بانتظام على مستوى الأفراد والمؤسسات، واتخاذ إجراءات تصحيحية عند تجاوز المخاطر للحدود المقبولة. وتتراوح هذه الإجراءات التصحيحية بين تشديد الضوابط وإيقاف النموذج نهائياً، مع تقديم تقارير مفصلة عن المخاطر التي أدت إلى هذه الإجراءات.

يتضمن الإطار أيضاً نظاماً لتصنيف المخاطر مقسماً إلى مستويات متعددة. يجب تحديد مستوى مخاطر معين لكل نموذج، بغض النظر عن مدى تعقيده، إلى جانب الإشراف البشري. تتطلب النماذج عالية المخاطر موافقة لجنة إدارة المخاطر على مستوى مجلس الإدارة.

مفاتيح الإيقاف والإشراف البشري على نماذج الذكاء الاصطناعي

من المتوقع أن تقوم البنوك بتضمين آليات التجاوز والتعليق وإلغاء التنشيط في كل عملية نشر لنموذج الذكاء الاصطناعي بحيث يمكن إيقاف أي نموذج على الفور إذا أنتج نتائج خاطئة أو ضارة.

أشار بنك الاحتياطي الهندي أيضًا إلى ما أسماه "تحيز الأتمتة"، وهو خطر موافقة موظفي البنوك على مخرجات الذكاء الاصطناعي دون ممارسة أي شكل من أشكال التقييمdent . بالنسبة لأنظمة الذكاء الاصطناعي الموجهة للعملاء، ستُلزم التوجيهات البنوك بإبلاغ عملائها عند تفاعلهم مع نموذج ذكاء اصطناعي، ومنحهم خيار التحدث مع موظف بشري في أي وقت.

بحسب وكالة رويترز، ستواجه نماذج الذكاء الاصطناعي التوليدية التي تتفاعل مع العملاء أو المستخدمين الخارجيين متطلبات إضافية للأمن السيبراني بموجب المقترح الذي تم إعداده

يخضع مزودو خدمات الذكاء الاصطناعي من الأطراف الثالثة للتدقيق

تظل البنوك مسؤولة مسؤولية كاملة عن أي نموذج ذكاء اصطناعي تختاره، سواءً كان مطوراً داخلياً أو تم شراؤه من جهة خارجية. كما أشار بنك الاحتياطي الهندي إلى أن تركيز سلاسل التوريد يمثل أحد مخاوفه، مُلمحاً إلى خطرdent البنوك المفرط على عدد محدود من مزودي الذكاء الاصطناعي العالميين.

يُشترط التحققdent صحة جميع نماذج الذكاء الاصطناعي التابعة لجهات خارجية. كما يتعين على البنوك defiمعايير لنماذج الذكاء الاصطناعي والتعلم الآلي، مع ضمان قدرتها على شرح أسباب إنتاج النموذج لمخرجات معينة بوضوح.

دأب بنك الاحتياطي الهندي على تشديد موقفه بشأن حوكمة التكنولوجيا منذ فترة. وتمثل هذه المسودة التوجيهية المرة الأولى التي يقترح فيها البنك المركزي الهندي هيكلاً شاملاً للمساءلة على مستوى مجلس الإدارة، خاصاً بمخاطر نماذج الذكاء الاصطناعي في القطاع المالي بأكمله.