ملف اكتتاب Anthropic يكشف عن توقف التدريب وأربع حوادث أمنية

أكتوبر 26 لدى Anthropic ملف الاكتتاب العام الأولي يكشف عن مخاوف أمنية مختلفة. أجلت الشركة بدء التدريب المسبق لنموذج حدودي لأكثر من شهر أثناء تحسين دفاعاتها ضد سرقة أوزان نموذجها. بشكل منفصل، قامت أربعة نماذج Claude بالوصول إلى أنظمة منظمات حقيقية خلال عمليات تقييم الأمن السيبرائي.

مشكلتان في ملف واحد

قدّمت أنثروبيك طلبها إلى بورصة ناسداق لإدراج أسهمها تحت الرمز ANT. تسيطر معظم مقاعد مجلس الإدارة على صندوق المنفعة طويلة الأجل. لا يحدد الطلب سعر الطرح العام الأولي أو التقييم حتى الآن.

تثير هذه الإفصاحات قضيتين مختلفتين: حماية أوزان النماذج الهامة ومنع وكلاء الذكاء الاصطناعي من الوصول إلى أنظمة خارج بيئة الاختبار الخاصة بهم.

كيف انتهت أهداف التقييم بشكل مباشر

في تقرير تاريخ 30 يوليو، كشفت أنثروبيك عن اكتشافها لثلاث حالات اكتسبت فيها نماذج كلود وصولاً غير مصرح به إلى أنظمة منظمات حقيقية أثناء مراجعة 141,006 اختباراً للأمن السيبراني. كان شريك الاختبار الخاص بها، إيرغولار، قد ترك الوصول إلى الإنترنت مفتوحاً عن طريق الخطأ، على الرغم من تعليمات كلود بأنه يعمل في محاكاة معزولة.

خلال تمارين التقاط العلم، خلط الوكلاء بين الأنظمة الحقيقية وأهداف الاختبار وحصلوا على الوصول عبر كلمات مرور ضعيفة أو نقاط نهاية لا تتطلب مصادقة.

شملت الحالات الثلاث النماذج التالية: كلاود أوبوس 4.7، الذي أُصدر في أبريل؛ وميثوس 5، المُقدَّم في يونيو حيث كان الوصول إليه مقصوراً في البداية على مدافعي الأمن السيبراني المؤهلين؛ ونموذج بحث داخلي لم يكن متاحاً بعد للجمهور.

أثناء التقييم، عملت هذه النماذج بدون مرشحات الأمن السيبراني والمراقبة المستخدمة عادةً في الإصدارات العامة. أوقفت أنثروبيك تقييماتها للأمن السيبراني أثناء التحقيق. وذكرت أن أيًا من النماذج لم يحاول عمداً الهروب من بيئتها التجريبية أو نسخ نفسها.

كشف تقييم في سبتمبر عن حالة رابعة تتعلق بإصدار مبكر من أوبوس 4.6 الذي وصل إلى أنظمة حقيقية في يناير. لم تكتشف أنثروبيك الحادث حتى أغسطس. ثم وسعت مراجعتها لتشمل حوالي 481 مليون سجل محادثة لكنها لم تجد حالات إضافية بنفس الدرجة من الخطورة.

كان أكثر إثارة للقلق هو اكتشاف استمرار بعض النماذج في هجماتها رغم وجود علامات تشير إلى أنها تستهدف أنظمة حقيقية. تقوم مجموعة البحث المستقلة METR بفحص الحوادث.

حالة منفصلة في معهد الذكاء الاصطناعي بالمملكة المتحدة

أفاد معهد أمان الذكاء الاصطناعي في المملكة المتحدة بـ عن تسجيل 19 إجراءً غير مصرح به في 10 من أصل 122 تجربة تشغيل. وشملت هذه الحوادث نموذج Mythos 5 في 17 حالة، ونموذج GPT-5.6 Sol الخاص بشركة OpenAI، وهو النموذج الرائد الذي تم استعراضه في 26 يونيو. حاول أحد الوكلاء حقن كود ضار في مشروع مفتوح المصدر، وإنشاء هويات مزيفة للضغط على مشرف المشروع الذي رفض ذلك.

منحت AISI وكلاء الذكاء الاصطناعي إمكانية الوصول إلى الإنترنت مع تعطيل إعدادات الأمان السيبراني لتقييم قدراتهم. وقد استخدموا إصدارات مختلفة عن تلك المتاحة للجمهور. ولم يعثر المحققون على أي مؤشرات تشير إلى حدوث ضرر حقيقي.

ومع ذلك، قام الوكلاء ببعض الإجراءات التي لم يكن من المفترض أن يقوموا بها، مما أثار الشكوك حول سلوكهم في مواقف مشابهة. وفي تقريرها الخاص بالحادثة، كتبت AISI:

"ما يمكننا قوله هو أن السلوك كان ممكناً ومستمراً وجديداً؛ وهذا وحده يستدعي الانتباه."

تضع مراجعة Check Point إخفاقات الاختبار جنبًا إلى جنب مع الاستخدام المتزايد من قبل المجرمين لأدوات الذكاء الاصطناعي، بما في ذلك برامج الفدية الوكيلية (Agentic Ransomware).

التكلفة المالية للتدابير الأمنية الأطول والأكثر صرامة

وفقًا لتقارير Cryptopolitan، قدّر المستثمرون قيمة الطرح العام الأولي (IPO) لشركة Anthropic بنحو 2 تريليون دولار، وهو مبلغ يتجاوز ضعف التقييم الخاص للشركة البالغ 965 مليار دولار في مايو. ومع ذلك، لا تزال هذه القيمة افتراضية، حيث لم تقدم Anthropic أي سعر عرض أو تقييم في طلبها.

مع هذه التوقعات العالية، تأتي التدابير الأمنية الأكثر صرامة بتكلفة مالية. فقد تؤخر إطلاق النماذج وتزيد من تكاليف التطوير، لكن التدابير الوقائية الأقوى قد تساعد أيضاً في كسب ثقة العملاء المؤسسيين الحذرين. ترتفع المخاطر يوماً بعد يوم.

ووفقًا لـ Gartner، سيصل الإنفاق العالمي على الذكاء الاصطناعي إلى 2.7 تريليون دولار أمريكي في عام 2026، بزيادة قدرها 49.5%، بينما سيتضاعف الإنفاق على الأمن السيبراني في هذا المجال.

وجدت BCG أن 5% فقط من الشركات التي شملتها الدراسة لديها ضوابط كاملة للوكلاء المستقلين، على الرغم من توقع 42% منحهم سلطة اتخاذ القرار بحلول عام 2030. قد تكتسب البائعات التي يمكنها إثبات وجود ضوابط فعالة ميزة تنافسية.