إجراءات سلامة جديدة للذكاء الاصطناعي تكشف عنها CISA

كشفت وكالة أمن البنية التحتية والأمن السيبراني (CISA) عن توصيات جديدة تتماشى مع تركيز وزارة الأمن الداخلي (DHS) على سلامة الذكاء الاصطناعي، والذي تم تسليط الضوء عليه بإنشاء مجلس خاص للسلامة والأمن قبل وقت ليس ببعيد.

إرشادات CISA لأمن الذكاء الاصطناعي في القطاعات الحيوية

تهدف الإرشادات التي تم إصدارها مؤخراً إلى مالكي ومشغلي القطاعات الستة المحددة كبنية تحتية حيوية، والتي تخدمها مجالات مثل الزراعة والرعاية الصحية وتكنولوجيا المعلومات. تشكل هذه الإرشادات مجموعة دنيا مطلوبة لجعل نظام الذكاء الاصطناعي آمناً وقوياً باستخدام تقنيات الذكاء الاصطناعي المسؤولة. تقدم هذه النهج الإرشادية إرشادات حول الحوكمة وتقييم المخاطر والإدارة المستمرة للعمليات المتعلقة بالذكاء الاصطناعي.

يمكن للمشغلين اعتماد إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتقنية (NIST) لتقييم التأثير والمخاطر المرتبطة بتنفيذ الذكاء الاصطناعي بشكل مستمر. وتشمل هذه تحديد أماكن اعتماد الذكاء الاصطناعي والآثار البيئية التي تتركها التقنيات ومحاولة معالجة أي ثغرة يتم طرحها. توصي الإرشادات بقواعد تذكر بإجراء جرد لاستخدامات الذكاء الاصطناعي وإنشاء إجراءات خاصة للإبلاغ عن مخاطر السلامة المتعلقة بالذكاء الاصطناعي.

تدرك CISA أن مديري الأمن السيبراني (CISOs) بحاجة إلى معرفة المسار الحرج لسلسلة توريد الذكاء الاصطناعي واختبار أنظمة الذكاء الاصطناعي لتحديد ثغرات الأمان. ومن خلال التركيز على مجالات معينة، يواجه مالكو البنية التحتية مخاطر واسعة الطيف تتعلق بالذكاء الاصطناعي، بما في ذلك عيوب التصميم، والهجمات الإلكترونية، وانتهاكات الأمن المادي.

الدور المزدوج للذكاء الاصطناعي في البنية التحتية الحيوية

يوضح المستند أن للذكاء الاصطناعي فرصة لتحويل إدارة البنية التحتية الحيوية من خلال تقديم استشعار واسع النطاق للبيئة الخارجية، وأتمتة خدمة العملاء، وتحسين الأمن المادي، وجعل التنبؤات أكثر دقة. 

في حين أن هذه الابتكارات ستساعد في جعل أنظمة البنية التحتية قوية بشكل عام، فمن الممكن أيضاً أن تجعلها أكثر عرضة لأشكال جديدة من الهجمات والفشل.

هذه الإرشادات هي مجرد عنصر واحد من مبادرات وزارة الأمن الداخلي الأوسع نطاقاً التي تهدف إلى التغلب على تعقيدات دمج تقنية الذكاء الاصطناعي في أطر الأمن الوطني. إن انتشار الذكاء الاصطناعي ذو وجهين: نشر هذه التكنولوجيا المحورية والتهديد الذي تشكله على البنية التحتية الحساسة للأنظمة الحيوية، كما يذكر وزير الأمن الداخلي أليخاندرو مايوركاس. مجموعة المخاطر متفاعلة جداً مع الموقف وتنفذ مبادرات استراتيجية لتحديد وتخفيف المخاطر الخفية من خلال التعاون الخبير.

مبادرات الذكاء الاصطناعي في وزارة الأمن الداخلي

قدمت وزارة الأمن الداخلي (DHS) استراتيجيتها للذكاء الاصطناعي في بداية العام، موضحة خارطة طريق DBDS وإعلان إطلاق فريق الذكاء الاصطناعي (AI Corps). يجب أن يتألف هذا الفريق في عام 2024 من 50 متخصصاً، يُشار إليهم على أنهم ماهرون، بهدف تعزيز قدرات الوكالة في مجال الذكاء الاصطناعي. سيضم المجلس الجديد شخصيات بارزة في مجال التكنولوجيا، مثل سام ألتمان من OpenAI وسندار بيتشاي الذي يمثل شركة Alphabet.

ليس فقط أن ولاية CISA في إرشادات الذكاء الاصطناعي الجديدة هي الوفاء بواجباتها بموجب الأمر التنفيذي الأخير المتعلق بالذكاء الاصطناعي الصادر عن إدارة بايدن، بل أيضاً وضع المثال الأول لتحليلات المخاطر المماثلة التي يمكن إجراؤها في مختلف قطاعات المجتمع. وبهذه الطريقة، تسلط حكومة الولايات المتحدة الضوء على قيادتها في "مصفوفة أمن البنية التحتية الحيوية"، والتي ترتبط ارتباطاً وثيقاً بالذكاء الاصطناعي اليوم.