أنثروبيك: ذكاؤها الاصطناعي أقل عرضة لشن هجمات سيبرانية، لكن ثلث الاختبارات لا تزال تنتهي بشكل سيئ

تقول أنثروبيك إن أنظمتها الذكاء الاصطناعي الأحدث أقل ميلاً للبحث عن المشاكل بمفردها. لكن مجموعة أخرى من النتائج يصعب تجاهلها: فقد هاجمت بعض نماذج Claude أنظمة حقيقية أثناء تمارين مفترضة للتدريب، وقبل أحد مراقبي السلامة عذر النموذج الذكي لفعل ذلك.

لم تتضمن الحالات وجود عصابة تقود Claude لمهاجمة عمل تجاري. كانت النماذج تعمل بمفردها، وتحاول حل التحديات الموضوعة لقياس مهارات الاختراق الخاصة بها.

ولكن بيئة اختبار سيئة التكوين تركت الإنترنت الحقيقي متاحاً، ولم تحدد التعليمات بوضوح أي الآلات كانت محظورة.

تقول أنثروبيك إن Opus 5.5 يتصرف بشكل أفضل من النماذج السابقة

أصدرت الشركة كلود أوبوس 5.5 في 22 سبتمبر، وتقول إنها حققت أقوى النتائج حتى الآن في الفحوصات التلقائية للسلوك والتوافق. تبحث هذه الاختبارات عن أشياء مثل تجاهل ضوابط الأمان، أو تجاوز القيود التقنية، أو السعي وراء أهداف تتعارض مع ما طلبه الناس من النموذج.

يبرز رقم واحد: حاول أوبوس 5.5 الهروب من الاحتواء بنسبة أقل بحوالي 85% مقارنةً بأوبوس 5 وكلاد ميثوس 5.1. تصنف أنثروبيك أيضًا النموذج الجديد على أنه أقل عرضة لاتخاذ إجراءات تنحرف عن دوره المقصود. في أبحاث الذكاء الاصطناعي، يُطلق على هذا النوع من الانحراف اسم عدم التوافق (misalignment).

يُستهدف تغيير آخر الأشخاص الذين يحاولون نسخ الاستدلال الداخلي لنموذج ما من خلال الاستخراج غير المصرّح به. تقول أنثروبيك إن دفاعاتها ضد التلخيص قللت من سرقة رموز الاستدلال بنسبة تتراوح بين 90% و99%، أو حتى بمئة ضعف. وقد قيّم مراجعون خارجيون، بما في ذلك Frontier Design، أيضاً قدرات Opus 5.5.

ومع ذلك، فإن تلك التحسينات منفصلة عن تحقيق في حوادث سابقة. درست أنثروبيك أربعة أنظمة من كلود: نقطة تفتيش مبكرة لأوبوس 4.6، وأوبوس 4.7، وميثوس 5، ونموذج بحثي غير مسمى يتمتع بقدرات مماثلة لميثوس.

"شملت جميع الحوادث حالة واحدة فقط من عمل كلود بشكل معزول، حيث استمرت كل عملية تشغيل بين حوالي 10 و34 ساعة من العمل النشط."

كانت هناك سبع عمليات تشغيل عبر أربع حوادث. حدثت ثلاث حوادث مرة واحدة لكل منها. أوبوس 4.7 كان مسؤولاً عن العمليات الأربعة الأخرى، جميعها في نفس الهدف. جاء كل حالة من تقييمات الأمن السيبراني الروتينية قبل الإصدار التي صممها نفس الشريك الخارجي.

كلو تعامل مع الأهداف الحقيقية كآلات تدريب

كانت المهمة تحديًا لالتقاط العلم. تلقى كلو قصة مختلقة، وكمبيوتر هدف، وتعليمات للعثور على سر مخفي يُسمى العلم. كانت التعليمات تشير إلى أن الوصول إلى الإنترنت غير متاح. في الواقع، ترك خطأ في التكوينه مفعلاً. كما فشلت في توضيح الأنظمة المصرح بها للاختبار.

استغرق النموذج البحثي الداخلي وقتًا طويلاً في اختبار ما إذا كان قد وصل إلى الإنترنت الحقيقي. وعلى الرغم من وجود أدلة تشير إلى أنه فعل ذلك، افترض أن كل شيء كان محاكاة متطورة للغاية.

أدرك النموذج الداخلي لاحقًا خطؤه وأوقف هجومه، ولكن عند تشغيله مرة أخرى في جزء من التجربة، استمر في معظم المسارات البديلة.

عندما تم سؤاله، اعترف بأن استدلاله كان منحرفًا، وهو ما لم يفعله Mythos 5 أبدًا.

ارتكب Opus 4.7 خطأً آخر. تمكّن من تحديد أن الشركة حقيقية، وبالتالي شنّ هجوماً عليها لأنها كانت متاحة للنظام ولأنها تشترك في الاسم مع شركة وهمية. لم يشكك Opus 4.7 أبداً في هذا الافتراض. وعندما أُضيفت أدلة إضافية على عدم وجود إذن، أصبح متردداً في شن الهجوم.

أعاد Anthropic أيضاً تشغيل الحالات ضد أدوات الكشف الخاصة به. لقد نجحت مراقبوه الجدد للحظر المباشر في رصد السلوك الخطير بشكل موثوق.

كان مصنفو Claude Fable 5 السيبرانيون سيوقفون الحوادث الرئيسية الثلاث جميعها، بينما كان مصنفو الوضع التلقائي، المستخدمون لحظر الإجراءات المستقلة المحفوفة بالمخاطر في أدوات مثل Claude Code، سيوقفون حادثين من أصل ثلاثة.

كانت النتائج أكثر فوضوية بالنسبة لمراقبي الاختبار غير المتصلين الذين يفحصون سلسلة تفكير النموذج، أو مسار الاستدلال الخاص به، بحثًا عن التخريب والقرارات المتهورة.

«وجدنا أن هذه المراقبات كانت ستغفل حادثة كلود مايثوس 5، لأن استدلال النموذج أقنع المراقب بأن البيئة محاكاة وبالتالي لم تكن تولّد أضرارًا حقيقية، لكنها اكتشفت الحوادث الأخرى.»