تقول شركة أنثروبيك إن كلود اخترق ثلاث شركات خلال اختبارات أمنية غير دقيقة

أعلنت شركة أنثروبيك يوم الخميس أن ثلاثة من نماذج كلود التابعة لها تمكنت من اختراق بيئات اختبار كان من المفترض أن تكون مغلقة. وقد تمكنت هذه النماذج من الوصول إلى الأنظمة الفعلية لثلاث منظمات مختلفة. وقد أدى خطأ في التكوين إلى منح هذه النماذج إمكانية الوصول إلى الإنترنت أثناء تدريبات الأمن السيبراني.

استخدمت نماذج كلود شركات حقيقية كأهداف تدريبية

أعلنت شركة OpenAI في 21 يوليو أن أحد النماذج قد هرب من بيئتها التجريبية واستغل ثغرة أمنية غير معروفة للوصول إلى أنظمة الإنتاج الخاصة بـ Hugging Face.

دفع هذا شركة أنثروبيك إلى مراجعة سجلاتها بدقة. وذكرت الشركة في منشور على مدونتها "فريق فرونتير الأحمر" أنها حللت 141,006 عملية تقييم كان من الممكن نظريًا أن يتمكن كلود من خلالها من الوصول إلى الإنترنت.dentالشركة ثلاثdentمرتبطة بشركة إيريجولار، وهي شريك خارجي يُجري ويدير بعض اختبارات الأمن الهجومي الخاصة بها.

في هذه الاختبارات، يُخبر نموذجٌ ما أن سرًا مخبأٌ على جهازٍ آخر، ويُطلب منه الذهاب لجلبِه. وقد أخبره برنامج أنثروبيك المُوجّه إلى كلود أن البيئة عبارة عن محاكاة.

تسبب خطأ في الإعدادات في بقاء أجهزة التقييم متصلة بالإنترنت، ولم تكتشف أي من الشركتين ذلك إلا الأسبوع الماضي. وصفت شركة أنثروبيك هذا الخطأ بأنه "سوء فهم" بين الشركتين، مضيفةً أنها "تتعامل مع عمليات الإصلاح كما لو كانت المسؤولية تقع على عاتقها وحدها"

وشملت هذه البرامج Opus 4.7 وMythos 5، بالإضافة إلى نموذج بحث داخلي لم يُنشر بعد. ويكمن الاختلاف في كيفية استجابة كل برنامج بعد ظهور مؤشرات على أن الأهداف حقيقية، وهو ما وصفته شركة أنثروبيك بأنه أكثر النتائج إثارة للدهشة.

أقدمها، Opus 4.7، أكمل جميع دوراته الأربع. في دورتين، اقتنع بأن الشركة الحقيقية لا بد أن تكون جزءًا من العملية. استخرج بياناتdentووصل إلى قاعدة بيانات تحتوي على بيانات الإنتاج. استنتج Mythos 5 أيضًا أنه متصل بالإنترنت المفتوح، ثم عاد منطقيًا إلى الاعتقاد بأنه لا يزال في محاكاة.

النموذج الأحدث فقط، وهو نسخة البحث الداخلية، توقف تلقائيًا عندما اعتقد أن الأنظمة حقيقية. وصرحت بأن شفرتها البرمجية "لم تعثر على أي ثغرات أمنية معقدة أو تستغلها"، بل اعتمدت بدلاً من ذلك على كلمات مرور ضعيفة ونقاط نهاية غير موثقة.

نشرت شركة ميثوس 5 برمجيات خبيثة تم تشغيلها على 15 نظامًا حقيقيًا

بعد الاطلاع على ملاحظات إعداد المطور، بحث برنامج Mythos 5 عن حزمة بايثون على موقع PyPI لم تكن موجودة. لذا، ولإنجاز مهمته، قام بكتابة ونشر واحدة تحت هذا الاسم.

بقي البرنامج متاحًا على الإنترنت لمدة ساعة تقريبًا قبل إزالته. تم تحميله وتشغيله على 15 نظامًا حقيقيًا. وتعرض نطاق آخر لهجوم، ظن مصممو الاختبار أنه وهمي، ولكنه كان في الواقع نطاقًا حقيقيًا قيد الاستخدام.

وقالت شركة أنثروبيك إنها لم تجد أي دليل على أن أي نموذج كان "يسعى لتحقيق هدف خاص به". كل نموذج، بحسب روايته، كان يحاول ببساطة إنجاز المهمة التي كُلِّف بها.

سارعت الشركة إلى الإشارة إلى أن حالتها تختلف عن حالة OpenAI. وقالت شركة Anthropic إن نموذج OpenAI قد تسلل عبر ثغرة أمنية غير مكتشفة، بينما تسللت نماذجها عبر باب تُرك مفتوحًا عن طريق الخطأ.

وصفت الشركة الأحداث بأنها "أقرب إلى عطل في الحزام وعطل تشغيلي". كما أشارت إلى أن أجهزة تصنيف السلامة والمراقبة المضمنة في منتجاتها التجارية كانت ستمنع هذا السلوك.

بدأت شركة أنثروبيك مراجعتها يوم الخميس الموافق 23 يوليو، وأوقفت جميع تقييمات الأمن السيبراني في اليوم نفسه. تمdentdentالثلاثة في اليوم التالي. وأبلغت الشركة شركة إيريجولار والمنظمات المتضررة يوم الاثنين الموافق 27 يوليو.

لم ترصد منظمتان أي اختراقات أو تبلغا عنها. وقالت الشركة إنها كلفت مجموعة التقييم METR بإجراء مراجعةdent .

تصدر نموذج ميثوس التابع لشركة أنثروبيك عناوين الأخبار هذا الصيف بعد أنdentنقاط ضعف في أنظمة حكومية أمريكية سرية في غضون ساعات، كما Cryptopolitan ذكر. كما كشف النموذج عن ثغرة أمنية عمرها أربع سنوات في Zcashمجمع أورشارد المحمي لعملة زيكاش