البيت الأبيض يدرس الفحص المسبق لنماذج الذكاء الاصطناعي، مختبرًا حدودًا جديدة في الإشراف التكنولوجي

تفكر البيت البيضاء في خطة لمراجعة بعض أقوى أنظمة الذكاء الاصطناعي قبل إطلاقها للجمهور.

المقترح، الذي أُبلغ به لأول مرة من قبل نيويورك تايمز في 4 مايو، سيُقدم تدقيقاً اتحادياً في نقطة حاسمة في دورة حياة الذكاء الاصطناعي، مباشرة قبل النشر. يزداد قلق المسؤولين من أن النماذج المتطورة أصبحت قادرة الآن على تحديد واستغلال نقاط الضعف في البرمجيات التي تدعم البنية التحتية الأساسية.

تحليل نُشر بواسطة ذا كونفرسيشن يشير إلى أدلة متزايدة على أن أنظمة الذكاء الاصطناعي الحديثة يمكنها اكتشاف أعداد كبيرة من نقاط الضعف في أنظمة التشغيل والمتصفحات. هذه القدرة، رغم قيمتها للأمن الدفاعي، ترفع أيضاً من حدة المخاطر إذا تم إساءة استخدام مثل هذه الأدوات أو سقطت في الأيدي الخطأ.

قدرات النماذج تدفع إلى إعادة التفكير في السياسة

اكتسبت مناقشة السياسة زخماً بعد أن قررت Anthropic تأخير النشر الأوسع لنموذجها الأحدث، Mythos. كشفت الاختبارات الداخلية عن قدرات متقدمة في الأمن السيبراني، بما في ذلك القدرة على تحديد العديد من الثغرات القابلة للاستغلال. رداً على ذلك، قيدت الشركة الوصول إلى مجموعة محدودة من المؤسسات المسؤولة عن البنية التحتية الحرجة من خلال مبادرة "Project Glasswing" الخاصة بها.

ووفقاً لـ ذا كونفرسيشن، تدخل البيت الأبيض عندما استكشرت Anthropic توسيع الوصول، مما يشير إلى نهج أكثر تدخلاً في إشراف الذكاء الاصطناعي حتى عندما بقيت سياسة التكنولوجيا الأوسع مدفوعة بالسوق نسبياً.

القلق لا يقتصر على شركة أو نظام واحد. أبلغ معهد أمان الذكاء الاصطناعي في المملكة المتحدة في تقييم أبريل أن OpenAI GPT-5.5 أظهر أداءً قابلاً للمقارنة في مهام الأمن السيبراني المتقدمة.

في اختبار واحد أبرزه المعهد، قام النموذج بهندسة عكسية لآلة افتراضية مخصصة وحل تحدياً معقداً في دقائق، أسرع بكثير من خبير بشري يستخدم أدوات احترافية.

"كان سؤالاً رئيسياً ما إذا كان هذا يعكس اختراقاً محدداً لنموذج واحد، أو جزءاً من اتجاه أوسع،" كتب المعهد في تقريره. "تشير النتائج من نقطة فحص مبكرة لـ GPT-5.5 إلى الخيار الأخير."

معاً، تشير النتائج إلى أن هذه القدرات أصبحت سمة شائعة لأنظمة الذكاء الاصطناعي الرائدة، بدلاً من كونها اختراقاً معزولاً.

مخاوف أمان الذكاء الاصطناعي تأخذ بُعداً جيوسياسياً

الآثار تمتد إلى ما وراء التكنولوجيا إلى الأمن القومي. يحذر الباحثون الذين استشهد بهم ذا كونفرسيشن من أن المجموعات المرتبطة بالدول قد تستخدم أدوات مماثلة لتنفيذ عمليات سيبرانية، مستهدفةً محتملاً البنية التحتية أو الأنظمة الاقتصادية.

هناك بالفعل علامات مبكرة على هذا التحول. أفادت Anthropic عن اشتباه في أن جهات مدعومة من دول تستخدم نماذجها في حملات تجسس تؤثر على عشرات المؤسسات. في الوقت نفسه، قالت Microsoft و OpenAI في عام 2024 إن المجموعات المرتبطة بالحكومات تستغل الذكاء الاصطناعي لتعزيز الهجمات السيبرانية.

في الوقت نفسه، لا يزال الباحثون يكافحون لفهم كيفية التحكم الموثوق في هذه الأنظمة. تشير الأعمال التي استشهد بها ذا كونفرسيشن إلى أن مرشحات الأمان المطبقة بعد التدريب يمكن تجاوزها، بينما قد تبدو بعض النماذج متوافقة دون القضاء تماماً على القدرات الخطرة.

هذا أدى إلى نظرة متزايدة بين صانعي السياسات بأن إجراءات الأمان قد تحتاج إلى دمجها أثناء تطوير النموذج بدلاً من إضافتها لاحقاً.

آفاق السياسة: أطر مجزأة، ضغط متزايد

المقترح الأمريكي يتشكل في إطار مشهد تنظيمي عالمي أوسع لا يزال يتطور:

• يحدد قانون الذكاء الاصطناعي للاتحاد الأوروبي إطاراً قائماً على المخاطر مع متطلبات صارمة للتطبيقات عالية الخطورة، على الرغم من أنه لا يفرض موافقة مركزية للنماذج المتطورة.
• اعتمدت المملكة المتحدة على التعاون الطوعي من خلال معهد أمان الذكاء الاصطناعي في المملكة المتحدة، مع التركيز على شراكات الاختبار والتقييم مع المطورين.
• يبدو أن النهج الأمريكي الناشئ يتجه نحو الإشراف المباشر على أكثر الأنظمة تقدماً، ربما من خلال المراجعة قبل النشر.

بدأ المشرعون في فحص هذه القضايا عن كثب، مع جلسات استماع في الكونغرس في أبريل حول أمان الذكاء الاصطناعي والحوكمة، على الرغم من عدم تقدم تشريع شامل حتى الآن.

إذا تم تنفيذها، فإن نظام المراجعة قبل النشر الأمريكي سيُمثل تحولاً نحو التدخل المبكر، ووضع الإشراف في النقطة التي يمكن فيها توقع المخاطر بدلاً من بعد تجسيدها.

مثل هذا الإجراء قد يضع معياراً عالمياً غير رسمي، لا سيما نظراً لتركيز مطوري الذكاء الاصطناعي الرائدة في الولايات المتحدة. في الوقت نفسه، يثير إمكانية قيام الشركات بنقل أجزاء من التطوير أو النشر إلى مناطق ذات قيود أقل.

التحدي لصانعي السياسات هو موازنة الابتكار مع إدارة المخاطر في مجال تتقدم فيه القدرات بسرعة، وقد تكون عواقب الإساءة بعيدة المدى.

للآن، تظل الضمانات الأكثر ملموسة طوعية. تقيد شركات مثل Anthropic الوصول إلى الأنظمة الحساسة، بينما تواصل منظمات مثل معهد أمان الذكاء الاصطناعي في المملكة المتحدة إجراء تقييمات مستقلة.

سواء شكلت الولايات المتحدة نهجها رسمياً - وهل تنسجم معه دول أخرى - سيكون عاملاً رئيسياً في تشكيل كيفية حوكمة الذكاء الاصطناعي في السنوات القادمة.