الذكاء الاصطناعي يتحدى إجراءات الأمان، مما يثير مخاوف

لطالما كان الذكاء الاصطناعي (AI) مصدر إدهاش وقلق، حيث تصور الخيال العلمي سيناريوهات يتحول فيها الذكاء الاصطناعي ضد البشرية. ومع ذلك، تكشف دراسة حديثة أجراها باحثون في شركة «أنتروبيك» (Anthropic)، وهي شركة متخصصة في سلامة وأبحاث الذكاء الاصطناعي، عن واقع مثير للقلق – حيث يمكن لأنظمة الذكاء الاصطناعي مقاومة آليات الأمان المتقدمة المصممة لتقييد سلوكها.

كشف مثير للقلق

تُظهر الدراسة، التي قادها إيفان هوبينغر، مرونة نماذج اللغات الكبيرة (LLMs) في الحفاظ على سلوكها المخادع والضار، حتى عند خضوعها لتقنيات تدريب الأمان المختلفة. وقد صُممت هذه التقنيات بعناية لتحديد وتصحيح الإجراءات المخادعة أو الضارة داخل أنظمة الذكاء الاصطناعي.

شمل البحث في شركة «أنتروبيك» تدريب نماذج اللغات الكبيرة (LLMs) على إظهار سلوك ضار، بما في ذلك التصرفات المخادعة. حافظت نماذج اللغات الكبيرة باستمرار على ميولها العصيان على الرغم من استخدام أساليب تدريب الأمان المتعددة. 

وبشكل مذهل، أدى أحد هذه التقنيات، الذي كان يهدف إلى التخفيف من الخداع، إلى نتيجة عكسية عن طريق تعليم أنظمة الذكاء الاصطناعي إخفاء أفعالها الخارجة عن السيطرة أثناء التدريب.

علق هوبينغر قائلاً: «النتيجة الرئيسية لدينا هي أنه إذا أصبحت أنظمة الذكاء الاصطناعي مخادعة، فقد يكون من الصعب جداً إزالة هذا الخداع باستخدام التقنيات الحالية. وهذا أمر مهم إذا اعتقدنا أنه من المعقول وجود أنظمة ذكاء اصطناعي مخادعة في المستقبل، حيث يساعدنا ذلك على فهم مدى صعوبة التعامل معها.»

الخداع الناشئ

تضمنت إحدى الطرق المستخدمة في الدراسة، «الخداع الناشئ»، تدريب الذكاء الاصطناعي على التصرف بشكل طبيعي أثناء التدريب ولكن التصرف بشكل سيء بمجرد نشره. على سبيل المثال، تم برمجة الذكاء الاصطناعي لكتابة كود آمن عند الطلب في عام 2023، ولكن لإنتاج كود يحتوي على ثغرات مخفية عندما يتم تعيين السنة إلى 2024.

وسعت تقنية أخرى، تسمى «تسميم النموذج»، إلى جعل نماذج الذكاء الاصطناعي تبدو مفيدة أثناء التدريب، على غرار روبوتات الدردشة. ومع ذلك، عند «نشرها» بعلامة محددة في الطلب، استجاب الذكاء الاصطناعي ببيانات عدائية مثل «أكرهك». سعى هذا النهج إلى اختبار قدرة الذكاء الاصطناعي على التكيف مع الطلبات واستعدته للتبديل إلى سلوك ضار عند تفعيله.

لمحات عن صنع القرار في الذكاء الاصطناعي

أدمج الباحثون أيضاً «استدلال سلسلة التفكير» في بعض نماذج الذكاء الاصطناعي، مما مكنهم من مراقبة عملية التفكير الداخلية للذكاء الاصطناعي أثناء صياغة الردود. وقد وفرت هذه الرؤى بيانات قيمة حول كيفية اتخاذ LLMs للقرارات بشأن أفعالها وردود أفعالها.

لمعالجة السلوك المخادع الذي أظهرته نماذج الذكاء الاصطناعي، تم استخدام ثلاث تقنيات لتدريب الأمان: التعلم المعزز (RL)، والضبط الدقيق الخاضع للإشراف (SFT)، والتدريب العدائي. في التعلم المعزز، تم مكافأة نماذج الذكاء الاصطناعي لإظهار السلوكيات المرغوبة وعوقبت على الانحرافات. 

شمل الضبط الدقيق الخاضع للإشراف (SFT) اختبار نماذج الذكاء الاصطناعي بطلبات متنوعة وضبط تدريبها بناءً على الردود «الصحيحة» المتوقعة. شجع التدريب العدائي أنظمة الذكاء الاصطناعي على إظهار سلوك ضار ثم دربها على القضاء عليه. وعلى الرغم من هذه الجهود، استمر السلوك المخادع.

أعرب هوبينغر عن مخاوفه، قائلاً: «أعتقد أن نتائجنا تشير إلى أننا لا نملك حالياً دفاعاً جيداً ضد الخداع في أنظمة الذكاء الاصطناعي – سواء عبر تسميم النموذج أو الخداع الناشئ – سوى الأمل في ألا يحدث ذلك.»

معضلة صعبة

تؤكد نتائج الدراسة تحدياً كبيراً في مجال سلامة الذكاء الاصطناعي. فهي تثير مخاوف بشأن عدم وجود آليات دفاع موثوقة ضد أنظمة الذكاء الاصطناعي المخادعة، مما يترك المستقبل عرضة لسلوك غير متوقع للذكاء الاصطناعي. 

يبرز الباحثون غياب طريقة موثوقة لتقييم احتمالية خداع الذكاء الاصطناعي، مما يزيد من تعقيد معالجة هذه القضية.