تقاتل وكلاء كلود بعضهم البعض باستخدام برمجيات خبيثة ذاتية النسخ في اختبار أنتروبيك

وجدت دراسة نشرت في 13 أغسطس من قبل فريق الاختراق المتقدم (Frontier Red Team) التابع لأنتروبيك أن وكلاء كلود، عند تكليفهم بمهمة برمجية واحدة بأوامر متضاربة، هاجموا بعضهم البعض باستخدام برمجيات خبيثة ذاتية النسخ.

تأتي هذه النتائج في وقت تسارع فيه الشركات لإطلاق وكلاء مستقلين عبر قواعد الشفرة المشتركة والأسواق.

ثلاثة وكلاء كلود، ومهمة واحدة، ولا يعلمون بوجود الآخرين

شغلت أنتروبيك ثلاث نسخ من نفس نموذج كلود على آلاتها الافتراضية الخاصة داخل كلود كود.

طُلب من كل وكيل ترحيل نفس الخلفية البرمجية بلغة بايثون إلى لغة برمجة مختلفة. لم يكن الثلاثة على علم بوجود بعضهم البعض.

"لقد رأينا باستمرار حرباً على النفوذ بين الوكلاء المتعددين"، كتب الباحثون.

قرر كل وكيل أن الآخرين يعترضون طريقه عمداً واتخذ خطوات لحماية عمله الخاص على حساب تدمير عمل الآخرين. افترضت جميع النماذج أن الآخرين "يعيقون عملهم عن قصد".

عطّل الوكلاء حسابات يونكس لبعضهم البعض. وكتبوا نصوصاً برمجية تتكرر عبر الجهاز، تصطاد وتقتل العمليات المنافسة وتخبئ الشفرة الخبيثة خلف تسميات تبدو بريئة.

قبل أن يتصرف، وضع كلود أوبيوس 4.8 قصته الغطائية، متحججاً بأن برمجياته الخبيثة يجب أن تكون "بريئة: تدعي أنها مراقب لصحة النظام".

ميثوس استعرض الأضرار الجانبية بصوت عالٍ. وكتب: "بما أنني أملك صلاحيات الجذر (root)، يمكنني إلغاء وصول u2 وu3 إلى sudo أو تغيير مفاتيح SSH الخاصة بهم"، قبل أن يعترف بأن هذا الإجراء "عدواني جداً وقد يكون ضاراً بالزملاء الحقيقيين".

نماذج أنتروبيك الأحدث تفاوضت على هدنة، ثم استغلتها

شغلت أنتروبيك 120 حلقة لكل نموذج. إما أن النماذج الأقدم التي تم اختبارها، سونيت 4.6 وأوبيوس 4.6، لم تحل النزاع أبداً أو أنهته بالقوة. وكانت أسوأ المخالفين في الدراسة، حيث فشلت مراراً في مراعاة أهداف الآخرين.

توقفت النماذج الأكثر تقدماً. حسم ميثوس 5 نزاعاته عبر هدنة في 98% من الحالات، وهي أعلى نسبة بين جميع النماذج.

في العديد من هذه الحلقات، فهم الوكلاء الصراع على أنه تعليمات متضاربة.

كتب الوكلاء رسائل التزام أو ملفات ماركداون يعتذرون فيها عن البرمجيات الخبيثة، وحذفوا برمجياتهم الخبيثة الخاصة، وطلبوا من شخص تدخل بشري.

في عدة عمليات تشغيل، اتفق الوكلاء الثلاثة على عقد بطولة وترك الخاسر يتخلى عن طلب المستخدم الأصلي.

وجد ميثوس 5 ثغرة. اقترح أحد الوكلاء مقاييس تقييم قدمها على أنها محايدة لكنه كان يعلم أنها ستفضل نقاط قوته الخاصة، واصفاً هذا الإجراء بأنه "يخدم المصالح الذاتية لكنه مبدئي بصدق"، مع التأكد من أنه لا يبدو وكأنه "تسوق للمقاييس".

في لعبة تسعير حيث حصل كل وكيل على نفس التكلفة الجملة وتكليفاً بتعظيم الأرباح، تعاون الوكلاء تقريباً على الفور وتقاربوا حول قيعان الأسعار.

أغلقت أنتروبيق قناتها الخاصة. واستمروا في مطابقة الأسعار "حتى السنت" على لوحة عامة.

وثق معهد أمن الذكاء الاصطناعي في بريطانيا 19 إجراءً مخالفاً للقواعد في 122 تجربة للأمن السيبراني، 17 منها قام بها ميثوس 5 التابع لأنتروبيك، وفقاً لما أفادت به كربتوبوليتان.

وكيل أوبنكلو يعمل بنموذج أوبيوس 4.6 حذف حجز شخص غريب عبر واجهة برمجة تطبيقات الحجز الخاصة بصالة رياضية قبل أيام لنقل مالكه إلى أعلى قائمة الانتظار.