الأمن القومي على المحك – معهد المملكة المتحدة للذكاء الاصطناعي يحذر من نشر تقنيات الذكاء الاصطناعي التوليدي

في خطوة، أصدر معهد ألان تورنغ، المعهد الوطني الرائد في المملكة المتحدة للذكاء الاصطناعي، تقريراً شاملاً يحث الحكومة على وضع 'خطوط حمراء' لنشر الذكاء الاصطناعي التوليدي، خاصة في السياقات التي يمكن أن تتخذ فيها التكنولوجيا إجراءات لا رجعة فيها دون إشراف بشري مباشر. يؤكد التقرير، الذي صدر في وقت متأخر من ليلة الجمعة، على مخاوف المعهد بشأن عدم موثوقية وأخطاء أدوات الذكاء الاصطناعي التوليدي الحالية، خاصة في السيناريوهات عالية المخاطر ضمن الأمن القومي.

عدم موثوقية الذكاء الاصطناعي التوليدي ومخاطر الأمن القومي

تسلط تقارير معهد ألان تورنغ الضوء على أوجه القصور الحالية في أدوات الذكاء الاصطناعي التوليدي، مشددة على عدم موثوقيتها وقابليتها للأخطاء، خاصة في سياقات الأمن القومي الحرجة. هذا يبرز الحاجة إلى تحول جذري في العقلية لحساب الطرق غير المقصودة أو العرضية التي يشكل بها الذكاء الاصطناعي التوليدي مخاطر على الأمن القومي. يشير التقرير إلى أن الاعتماد المفرط للمستخدمين على المخرجات المولدة بواسطة الذكاء الاصطناعي قد يؤدي إلى تردد في تحدي المعلومات التي قد تكون معيبة.

يُبرز التقرير بشكل خاص الوكلاء المستقلين كتطبيق رئيسي للذكاء الاصطناعي التوليدي، مما يستلزم رقابة دقيقة في سياق الأمن القومي. وبينما يعترف بإمكانية هذه التقنية في تسريع التحليلات الأمنية الوطنية، يحذر من أن الوكلاء المستقلين يفتقرون إلى مستوى الاستدلال البشري ولا يمكنهم تكرار الفطرة السليمة لفهم المخاطر، وهي أمر حاسم لتجنب الفشل. 

تشمل التدابير المقترحة للتخفيف من المخاطر تسجيل الإجراءات والقرارات التي يتخذها الوكلاء المستقلون، وإرفاق تحذيرات بكل مرحلة من مراحل مخرجات الذكاء الاصطناعي التوليدي، وتوثيق أسوأ السيناريوهات المحتملة.

توصيات الحكومة والقيود المشددة

يوصي معهد آلان تورنغ بفرض قيود مشددة في المجالات التي تتطلب "ثقة كاملة"، مثل القيادة والتحكم النووي، وربما في مجالات أقل وجودية مثل الشرطة والعدالة الجنائية. يقترح التقرير تنفيذ مكابح أمان لأنظمة الذكاء الاصطناعي التي تتحكم في البنية التحتية الحيوية، على غرار أنظمة الكبح في التقنيات الأخرى. ومع ذلك، يؤكد التقرير على أهمية مراعاة القيود والمخاطر، لا سيما للمسؤولين الكبار الذين قد لا يشاركون الحذر الذي يتحلى به الموظفون التشغيليون.

يشير التقرير أيضاً إلى الإساءة الخبيثة لاستخدام الذكاء الاصطناعي التوليدي كقضية تتعلق بالسلامة، ملاحظاً أن التكنولوجيا تعزز المخاطر الاجتماعية القائمة مثل المعلومات المضللة، والاحتيال، ومواد إساءة معاملة الأطفال جنسياً. يشكل الفاعلون السيئون، غير المقيدون بمتطلبات الدقة والشفافية، تهديداً. يوصي التقرير بدعم الحكومة لميزات وضع العلامات المائية المقاومة للتلاعب، ومتطلبات الالتزام من مصنعي وحدات معالجة الرسومات مثل NVIDIA والتنسيق الحكومي الدولي. يتم الاعتراف بأن التحديات أمام التنفيذ هائلة.

في ظل النداء العاجل الصادر عن معهد آلان تورنغ بشأن وضع "خطوط حمراء للذكاء الاصطناعي التوليدي"، يتنقل التقرير في التقاطع الدقيق بين الابتكار التكنولوجي والأمن القومي. إن تأكيد المعهد على تحول نموذجي يعترف بعدم موثوقية أدوات الذكاء الاصطناعي التوليدي الحالية، لا سيما في السيناريوهات عالية المخاطر، ويؤكد على ضرورة فرض قيود مشددة وتدابير أمان. 

بينما تكافح الحكومة البريطانية لتنظيم الذكاء الاصطناعي، تُعد هذه التوصيات خريطة طريق، تدعو إلى نهج استباقي للتخفيف من المخاطر المرتبطة بالوكلاء المستقلين والاستخدام الخبيث. يبقى السؤال: كيف يمكن للأطر التنظيمية التكيف لتحقيق التوازن بين الابتكار والأمن، وضمان التطور المسؤول للذكاء الاصطناعي التوليدي في مناخنا الاجتماعي التقني المعقد؟ تكمن التحدي في ترجمة هذه التوصيات إلى سياسات فعالة تحمي من التهديدات المحتملة مع تعزيز التقدم التكنولوجي المستمر.