إدارة التجارة الأمريكية تقترح قواعد إبلاغ جديدة لمقدمي خدمات الذكاء الاصطناعي والسحابة الإلكترونية

قالت إدارة التجارة الأمريكية إنها اقترحت متطلبات إبلاغ جديدة لمطوري الذكاء الاصطناعي المتقدمين ومقدمي خدمات السحابة الإلكترونية لضمان سلامة وأمن التكنولوجيا.

أوضحت هيئة صناعة وأمن الصناعة (BIS) أن الشركات الرائدة في الابتكار ومجمعات الهندسة التي تستثمر في إنشاء حواسيب فائقة ستلتزم بتقديم أنشطة تطوير أساسية معينة للسلطات الفيدرالية. يهدف هذا الاتجاه إلى تقليل التهديدات الأمنية المرتبطة بأمن السيبرانية والتطبيق الخاطئ لموارد الذكاء الاصطناعي.

ووفقاً للاقتراح الجديد، سيُطلب من المطورين الكشف عن معلومات مفصلة حول أنظمة الذكاء الاصطناعي الخاصة بهم، مع التركيز بشكل خاص على تدابير الأمن السيبراني وجهود اختبار الاختراق (Red-teaming). يُعد اختبار الاختراق تقنية تُستخدم في الأمن السيبراني لتقييم الاستخدامات الضارة للذكاء الاصطناعي، مثل تمكين الإرهاب السيبراني أو تسهيل إنشاء أسلحة الدمار الشامل.

مطورو الذكاء الاصطناعي يواجهون متطلبات جديدة للإبلاغ عن تدابير الأمن السيبراني واختبار المخاطر

سيطلب الاقتراح الصادر عن وزارة التجارة أيضاً من مطوري الذكاء الاصطناعي تضمين نتائج أنشطة اختبار الاختراق في تقاريرهم، خاصة تلك المتعلقة بالقدرة على تنفيذ هجمات خطيرة مثل الهجمات السيبرانية. هذه الطريقة، التي نشأت من محاكيات الحرب الباردة، تحدد المخاطر من خلال محاكاة الهجمات أو الاختراقات.

سيُطلب من المنظمات تحديث كيفية مقاومة أنظمة الذكاء الاصطناعي للهجمات، حتى من قبل جهات أجنبية أو جهات غير حكومية قد ترغب في إساءة استخدام النظام لأغراض خبيثة حرجة.

أثار الذكاء الاصطناعي التوليدي، الذي يمكنه إنشاء نصوص أو صور أو مقاطع فيديو بناءً على مطالبات المستخدم، مخاوف. على الرغم من أن التكنولوجيا تقدم تقدماً في العديد من المجالات، إلا أنها زادت أيضاً من المخاوف بشأن التهديدات المحتملة مثل فقدان الوظائف، والتدخل في الانتخابات، ومخاطر هيمنة الذكاء الاصطناعي على البشر.

تسعى إرشادات الإبلاغ الجديدة إلى ضمان التطوير الآمن والموثوق لنماذج الذكاء الاصطناعي، مما يقلل من احتمالية تجسيد هذه المخاطر.

مقدمو خدمات السحابة الإلكترونية مطالبون بتلبية معايير إبلاغ جديدة حول الأمن وتطوير الذكاء الاصطناعي

بالإضافة إلى مطوري الذكاء الاصطناعي، ستشمل القواعد المقترحة أيضاً مقدمي خدمات السحابة الإلكترونية مثل أمازون ويب سيرفيسز (AWS) وجوجل كلاود ومايكروسوفت أزور. ستضطر هذه المنصات، التي تعتبر أساسية في تطوير الذكاء الاصطناعي، إلى الالتزام بمعايير صارمة لأمن البنية التحتية الخاصة بها. سلطت وزارة التجارة الضوء على أن هذه المعلومات مهمة لتجنب إساءة استخدام التكنولوجيا الأمريكية من قبل دول أخرى.

يأتي الدفع التنظيمي هذا بعد الأمر التنفيذي للرئيس جو بايدن الذي وقع في أكتوبر 2023. يتطلب الأمر من مطوري تكنولوجيا الذكاء الاصطناعي تقديم نتائج اختبارات السلامة إلى حكومة الولايات المتحدة قبل إصدار تقنياتهم للجمهور. يتماشى المسودة الصادرة عن وزارة التجارة مع هذا الهدف الأوسع الذي يسعى لحماية الأمن القومي للبلاد والصحة العامة والاقتصاد من التهديدات التي يشكلها الذكاء الاصطناعي.

يأتي هذا الاقتراح أيضاً بعد الجهود السابقة التي بدأتها إدارة بايدن لتوظيف تدابير إضافية تمنع الصين من الوصول إلى التكنولوجيا الأمريكية لتطوير الذكاء الاصطناعي، مما يشير إلى زيادة المخاوف الأمنية داخل هذه الصناعة المتوسعة باستمرار.