التنقل في المشهد المعقد لأمن الذكاء الاصطناعي والحوكمة

في التطورات الأخيرة، شهد المشهد العالمي للذكاء الاصطناعي شخصيات مثل سام ألتمان تتولى أدواراً بارزة، مما قد يؤثر على الجوانب التنظيمية لتطوير الذكاء الاصطناعي. وقد أثار هذا التحول في التركيز نحو الاستحواذ التنظيمي أسئلة حول موقف منظمات مثل OpenAI بشأن الذكاء الاصطناعي مفتوح المصدر. ومع ذلك، تتجاوز هذه المقالة مجال تطوير الذكاء الاصطناعي لتغوص في القضايا الحاسمة المحيطة بأمن الذكاء الاصطناعي وتوحيده.

في بيئة التهديدات السيبرانية سريعة التطور، حيث تقود الأنظمة الآلية وأنظمة الذكاء الاصطناعي المشهد، من الضروري التأكيد على دور قدرات أتمتة الأمن. فكر في الفعل البسيط لفحص البريد الإلكتروني والرد عليه في عالم اليوم، وستكشف عن الطبقات المعقدة من الذكاء الاصطناعي والأتمتة المشاركة في تأمين هذا النشاط اليومي.

تعتمد المنظمات ذات الحجم والتعقيد الكبيرين بشكل متزايد على أنظمة أتمتة الأمن لفرض سياسات الأمن السيبراني الخاصة بها بفعالية. ومع ذلك، في خضم هذا الاعتماد على الأتمتة، هناك جانب حاسم غالباً ما يتم تجاهله – وهو مجال "السياسات العليا" للأمن السيبراني. تشمل هذه السياسات العليا آليات تبادل بيانات التهديدات الآلية، واتفاقيات النسب، وأنظمة إدارة المعرفة. وتساهم مجتمعة في ما يُشار إليه غالباً بـ "الدفاع النشط" أو "الأمن السيبراني الاستباقي".

من المثير للدهشة أن سياسات الأمن السيبراني الوطنية غالباً ما تفتقر إلى إشارات صريحة إلى هذه السياسات العليا. فهي تميل إلى أن تكون مدمجة ضمنياً في التنفيذ الوطني من خلال التأثير والمحاكاة بدلاً من المداولات الرسمية أو الاستراتيجية.

تمتلك هذه السياسات العليا لأتمتة الأمن أهمية هائلة في سياق حوكمة وأمن الذكاء الاصطناعي لأن أنظمة الذكاء الاصطناعي، سواء كانت رقمية بحتة أو سيبرانية-فيزيائية، موجودة ضمن إطار أوسع للأمن السيبراني والاستراتيجية. ومن هنا، يبرز السؤال عما إذا كان إعادة تصميم السياسات العليا للأتمتة الحالية مناسباً لتشكيل مستقبل الذكاء الاصطناعي.

الحاجة إلى سياسات عليا موحدة للأمن السيبراني

أحد الاتجاهات المهمة هو دمج ممارسات الأمن من مجال البرمجيات على العجلات في أنظمة السيارات المعقدة المختلفة. يمتد هذا من الدبابات المرقمنة بالكامل، التي تعد بتقليل حجم الطاقم وزيادة القتل، إلى المعايير لإدارة أمن الأساطيل الآلية وأنظمة النقل بالطائرات بدون طيار. وقد أدى هذا التطور إلى ظهور مراكز عمليات أمن المركبات (SOCs) التي تعمل على غرار مراكز عمليات الأمن السيبراني، مستخدمة آليات تبادل بيانات مماثلة وتنفيذات لأتمتة الأمن. ومع ذلك، فإن إعادة استخدام الوسائل الموجودة بشكل أعمى في مشهد التهديدات الناشئ بعيد كل البعد عن كونه كافياً.

على سبيل المثال، تعتمد معظم تبادل بيانات التهديدات السيبرانية على بروتوكول إضاءة المرور (TLP)، الذي يخدم بشكل أساسي كنظام لتصنيف المعلومات. ومع ذلك، فإن تنفيذ بروتوكول TLP وأي آليات تشفير لتقييد التوزيع غالباً ما يُترك لتقدير مصممي أنظمة أتمتة الأمن. وهذا يبرز الحاجة إلى ضوابط أدق لمشاركة البيانات مع الأنظمة الآلية وضمان الامتثال.

يمكن رؤية مثال آخر على السياسات العليا غير المتسقة في الانتشار الحديث لأنظمة توليد اللغات ووكلاء الذكاء الاصطناعي المحادثة. ليست جميع الوكلاء المحادثة شبكات عصبية كبيرة مثل ChatGPT؛ فقد عمل العديد منها لعقود كبرامج لتوليد اللغات محددة المهام وقائمة على القواعد. يمثل سد الفجوة بين البنية التحتية لتكنولوجيا المعلومات القديمة ونماذج أتمتة الذكاء الاصطناعي الناشئة تحديات للمنظمات التي تخضع للتحول الرقمي.