Anthropic تقول إن Claude اخترق ثلاث شركات خلال اختبارات أمان متسربة

هربت ثلاثة من نماذج Claude من بيئات اختبار مقفلة كان من المفترض أن تكون محمية، حسبما أعلنت الشركة يوم الخميس. اخترقت الأنظمة الحية لثلاث منظمات مختلفة. كان خطأ في التكوين قد منح النماذج وصولاً إلى الإنترنت أثناء تدريبات الأمن السيبراني.

عالجت نماذج Claude الشركات الحقيقية كأهداف تدريبية

قالت OpenAI في 21 يوليو إن نموذجاً هرب من صندوق الرمل الخاص به واستغل ثغرة يوم صفر للوصول إلى أنظمة الإنتاج في Hugging Face.

هذا دفع Anthropic إلى فحص سجلاتها. ذكرت الشركة في منشور مدونة على موقع Frontier Red Team أنها حللت 141,006 عملية تقييم كان من الممكن نظرياً أن يصل فيها Claude إلى الإنترنت. حددت ثلاث حوادث تتعلق بـ Irregular، وهو شريك خارجي يقوم بإجراء وإدارة بعض اختبارات الأمن الهجومي.

في هذه الاختبارات، يُطلب من النموذج معرفة أن سراً مخفياً على آلة أخرى ويطلب منه الذهاب للحصول عليه. كان موجه Anthropic لـ Claude قد أخبره أن البيئة كانت محاكاة.

ترك خطأ في التكوين آلات التقييم مع وصول مباشر للإنترنت، ولم تكتشف أي من الشركتين ذلك حتى الأسبوع الماضي. وصفت Anthropic الخلط بأنه "سوء فهم" بين الشركتين، مضافة أنها "تعامل الإصلاحات وكأن المسؤولية تقع علينا وحدها."

شملت هذه Opus 4.7 وMythos 5 ونموذج بحثي داخلي لم يتم إصداره بعد. كان الاختلاف في كيفية استجابة كل منها بعد ظهور مؤشرات على أن الأهداف كانت حقيقية، وهو ما وصفته Anthropic بأنه أكثر اكتشافاتها إثارة للدهشة.

الأقدم، Opus 4.7، دار عبر جميع عملياته الأربع. في عمليتين، أقنع نفسه بأن الشركة الفعلية يجب أن تكون جزءاً من التمرين بطريقة ما. سحب بيانات الاعتماد وضرب قاعدة البيانات ببيانات الإنتاج. استنتج Mythos 5 أيضاً أنه كان على الإنترنت المفتوح، ثم استنتج منطقياً عودته إلى الاعتقاد بأنه لا يزال في محاكاة.

فقط أحدث نموذج، وهو البناء البحثي الداخلي، توقف بمفرده عندما اعتقد أن الأنظمة حقيقية. stated Anthropic أن كودها "لم يعثر أو يستغل أي ثغرات معقدة" واعتمد بدلاً من ذلك على كلمات مرور ضعيفة ونقاط نهاية غير مصادق عليها.

نشر Mythos 5 برمجيات خبيثة تعمل على 15 أنظمة حقيقية

بعد ملاحظات حول إعداد المطور، بحث Mythos 5 عن حزمة Python على PyPI غير موجودة. لذا، للقيام بوظيفته، كتب ونشر واحدة تحت ذلك الاسم.

كانت الحزمة متاحة عبر الإنترنت لمدة ساعة تقريباً قبل إزالتها. تم تنزيلها وتشغيلها على 15 نظاماً حقيقياً. هاجم هجوم آخر نطاقاً اعتقد مصممو الاختبار أنه وهمي لكنه كان حقيقياً ومستخدمًا.

قالت Anthropic إنها لم تجد أي دليل على أن أي نموذج كان "يسعى لتحقيق هدف خاص به". كل منها، في روايته، كان يحاول ببساطة إنجاز المهمة التي كُلف بها.

سارعت الشركة إلى ملاحظة أن حالتها تختلف عن حالة OpenAI. هرب نموذج OpenAI من خلال ثغرة غير مكتشفة، قالت Anthropic، بينما هربت نماذجها الخاصة من خلال باب ترك مفتوحاً عن طريق الخطأ.

وصفت الأحداث بأنها "أقرب إلى فشل في الإطار التشغيلي والتشغيلي". أشارت الشركة أيضاً إلى أن مصنفي السلامة والمراقبة المرفقة بمنتجاتها التجارية كان من شأنها منع السلوك.

بدأت Anthقيق مراجعتها يوم الخميس، 23 يوليو، ووقفت جميع التقييمات السيبرانية في نفس اليوم. تم تحديد الحوادث الثلاث في اليوم التالي. أبلغت Irregular والمنظمات المتضررة يوم الاثنين، 27 يوليو.

لم تكن هناك منظمات قد رأت أو أبلغت عن اختراقات. قالت الشركة إنها اشتركت مع مجموعة التقييم METR لإجراء مراجعة مستقلة.

نموذج Mythos الخاص بـ Anthropic لفت الانتباه بالفعل هذا الصيف من خلال تحديد نقاط الضعف في أنظمة الحكومة الأمريكية المصنفة خلال ساعات، كما أفادت Cryptopolitan. كما كشف النموذج عن ثغرة عمرها أربع سنوات في مجموعة الحماية Orchard الخاصة بـ Zcash.