مايوركاس يكشف عن استراتيجية وزارة الأمن الداخلي لتأمين الذكاء الاصطناعي

التابع لوزارة الأمن الداخلي للذكاء الاصطناعي يوم الاثنين من هذا الأسبوع. ويهدف المجلس إلى تحسين إدارة نشر تقنيات الذكاء الاصطناعي وحماية هذه التقنيات من التهديدات الخارجية.

معالجة التحيزات في الذكاء الاصطناعي والمخاطر الأمنية

خلال جلسة أسئلة وأجوبة مع الصحفيين في مؤتمر RSA، وكلمة رئيسية ألقاها أمام الموظفين، ناقش مايوركاس أمن الذكاء الاصطناعي ونتائج مناقشات الاجتماع الأول لمجلس الإدارة. وتحدث الأعضاء عن مسألة أمن الذكاء الاصطناعي في المرافق الحيوية، كما تطرقوا إلى آثار تطبيق الذكاء الاصطناعي في مهام وزارة الأمن الداخلي على حقوق الإنسان، مع تسليط الضوء على إمكانية استخدامه كامتداد للتحيز الضمني القائم.

تُعدّ أنظمة الذكاء الاصطناعي التي تُمارس التمييز على أساس لون البشرة والجنس من المشكلات المزمنة التي يُواصل الخبراء والحكومة الفيدرالية معالجتها، وذلك لأنّ قادة الفكر والحكومة ينتمون إلى أقليات لا يُكلّفون أنفسهم عناء اختبار هذه الأنظمة للتأكد من فعاليتها مع النساء وذوي البشرة الملونة. إضافةً إلى ذلك، البيت الأبيض ووزارة العدل مشاريع تهدف إلى إزالة التحيزات التي تُسببها أنظمة الذكاء الاصطناعي.

تم الكشف عن مجلس إدارة وزارة الأمن الداخلي، الذي سيجتمع فصليًا. ويضم المجلس شخصيات بارزة مثل سام ألتمان، الرئيس التنفيذي لشركة OpenAI، ومسؤولين حكوميين نشطين في مجال الذكاء الاصطناعي، ومالكي شركات البنية التحتية الحيوية وشركات التكنولوجيا. وأوضح مايوركاس أن هناك أكثر من 20 استخدامًا للذكاء الاصطناعي، بدءًا من التركيز على مطالبات التأمين المتعلقة بأضرار الأعاصير، وصولًا إلى مساعدة الوكالة الفيدرالية لإدارة الطوارئ (FEMA) مؤخرًا في تدريب موظفي قضايا اللاجئين.

التعاون العالمي لمواجهة تهديدات الذكاء الاصطناعي

أشار مسؤولو وزارة الأمن الداخلي في تقاريرهم إلى إنشاء بوابة إلكترونية تُدرج المواقع التي تم فيها استخدام تقنيات الذكاء الاصطناعي أو سحبها، وذلك بسبب تباين المخاوف بين مختلف الجهات المعنية. الوزارة أنها تسعى إلى توسيع كوادرها العاملة في المجالات ذات الصلة بالذكاء الاصطناعي، وقد تلقت بالفعل 3000 طلب لشغل وظائف في هذا المجال.

أوضح مايوركاس أن المجلس بدأ عملية وضع الخطوط العريضة للاستراتيجية والخطط اللازمة لمنع التهديدات المحتملة للذكاء الاصطناعي والحد من مخاطر العواقب غير المرغوب فيها أثناء تطبيقه. وقد كان العمل التكميلي الذي أنجزه المجلس مُرضيًا بالفعل. كما أن كون هذا المجلس يضم نخبة من الذكاء الاصطناعي يُعد أمرًا بالغ الأهمية، لأنه سيتعاون مع الدول الأخرى في مجال التشريعات ذات الصلة.

لكن حماية أنظمة الذكاء الاصطناعي لن تتحقق بمجرد وجود جهات عالمية فاعلة. يتطلب هذا السيناريو شراكة لبناء آلية دفاعية متينة.