دراسة تظهر أن نماذج الذكاء الاصطناعي تميل نحو تصعيد النزاعات

في دراسة حديثة، سلط باحثون من معهد جورجيا للتكنولوجيا، وجامعة ستانفورد، وجامعة نورث إيسترن، ومبادرة Hoover Wargaming and Crisis Simulation الضوء على المخاطر المحتملة لاستخدام الذكاء الاصطناعي (AI) في صنع القرار العسكري والدبلوماسي.

الدراسة، المعنونة "مخاطر التصعيد من نماذج اللغات في صنع القرار العسكري والدبلوماسي"، قدمت في مؤتمر NeurIPS 2023، وهو مؤتمر سنوي حول أنظمة معالجة المعلومات العصبية.

نماذج الذكاء الاصطناعي التي تم تقييمها في محاكاة الصراع

أجرى فريق البحث تحقيقه باستخدام خمسة نماذج لغوية كبيرة (LLMs) موجودة مسبقاً – GPT-4، GPT-3.5، Claude 2، Llama-2 (70B) Chat، وGPT-4-Base – في سيناريو صراع محاكي يتضمن ثمانية وكلاء أمة ذاتية. 

تفاعلت وكلاء الذكاء الاصطناعي هذه مع بعضها البعض في لعبة صراع تعتمد على الأدوار. ومن المثير للاهتمام أن GPT-4-Base لم يخضع لضبط دقيق للسلامة من خلال التعلم التعزيزي من التغذية الراجعة البشرية، مما جعله الأكثر عدم قابلية للتنبؤ بين النماذج.

أمم محاكاة وأهدافها

مثلت الدول التي أنشأها الكمبيوتر، والمشار إليها بالألوان لتجنب الارتباطات بالعالم الحقيقي، قوى عظمى عالمية ذات طموحات متفاوتة. على سبيل المثال، تشبه "الأحمر" الصين بشكل وثيق، حيث سعت إلى تعزيز نفوذها الدولي، وإعطاء الأولوية للنمو الاقتصادي، وتوسيع أراضيها. 

أدى ذلك إلى مشاريع بنية تحتية في الدول المجاورة، وتوترات حدودية مع "الأصفر"، ونزاعات تجارية مع "الأزرق"، وتجاهل لاستقلال "الوردي"، مما أدى إلى ارتفاع احتمالية نشوب صراع.

أفعال محاكاة وعواقبها

تم توجيه كل وكيل ذكاء اصطناعي إلى اتخاذ إجراءات محددة مثل الانتظار، وإرسال رسائل إلى دول أخرى، ونزع السلاح النووي، والزيارات رفيعة المستوى، واتفاقيات الدفاع والتجارة، ومشاركة استخبارات التهديدات، والتحكيم الدولي، وتكوين تحالفات، وإنشاء حصار، وغزوات، وحتى تنفيذ هجمات نووية كاملة. قام نموذج لغوي كبير (LLM) منفصل بإدارة نموذج العالم وتقييم عواقب هذه الإجراءات على مدار فترة أربعة عشر يوماً. ثم استخدم الباحثون إطار عمل لتقييم التصعيد لتقييم الإجراءات المختارة.

تظهر أنماط التصعيد

كانت النتائج مقلقة، حيث كشفت الدراسة أن جميع نماذج LLM الخمسة المتوفرة تجارياً أظهرت أشكالاً من التصعيد و exhibited أنماط تصعب التنبؤ بها. تميل النماذج إلى تعزيز ديناميكيات سباق التسلح، مما يؤدي إلى زيادة الصراع، وفي حالات نادرة، نشر الأسلحة النووية.

من بين نماذج الذكاء الاصطناعي التي تم اختبارها، برز Llama-2-Chat وGPT-3.5 كأكثرها عدوانية وتصعيداً. ومع ذلك، تميز GPT-4-Base بسبب نقص تكييفه للسلامة، حيث لجأ بسهولة إلى الخيارات النووية. 

في إحدى المرات، برر GPT-4-Base هجوماً نووياً بحجة: "العديد من الدول لديها أسلحة نووية. البعض يقولون يجب نزعها، والبعض الآخر يحب المماطلة. نحن لدينا واحدة! لنستخدمها." وفي حالة أخرى، ذهب إلى الخيار النووي بينما يعبر عن رغبته في السلام العالمي.

ليس استنتاجاً، بل تنبؤات بالرموز

شدد الباحثون على أن هذه النماذج اللغوية الكبيرة لم تكن "تستنتج" بشكل حقيقي، بل كانت تقدم تنبؤات بالرموز لما قد يحدث. ومع ذلك، فإن الآثار المحتملة لأفعالها مقلقة.

سلطت الدراسة الضوء على عدم قابلية التنبؤ بنماذج LLM في سيناريوهات الصراع. بينما افترض الباحثون أن النماذج قد تكون امتصت تحيزات من الأدبيات المتعلقة بالعلاقات الدولية، فإن السبب الدقيق لا يزال غير واضح. 

وبالتالي، يشدد الباحثون على الحاجة إلى مزيد من البحث قبل النظر في نشر نماذج الذكاء الاصطناعي في المواقف عالية المخاطر.