تستأنف شركة أنثروبيك اختبارات الأمن السيبراني بعد توقف مؤقت لأسباب أمنية

بعد تطبيق إجراءات وقائية جديدة، استأنفت شركة أنثروبيك اختبارات الأمن السيبراني الخارجية لمختلف طرازاتها. وكانت الاختبارات قد توقفت سابقاً في 23 يوليو/تموز بسبب مشكلات أمنية ظهرت أثناء عمليات التقييم.

تُعدّ إعادة التشغيل مهمة، إذ يُعتبر التقييم الخارجي أحد الوسائل التي يعتمد عليها العملاء والهيئات التنظيمية والمنافسون لتقييم حلول الذكاء الاصطناعي الرائدة. وتزداد أهمية هذا التقييم في ظلّ تزايد الاستثمارات في هذا القطاع. ووفقًا لتقديرات شركة غارتنر الصادرة في 20 يوليو، سيصل الإنفاق العالمي للمستخدمين النهائيين على نماذج ومنصات الذكاء الاصطناعي إلى 64.252 مليار دولار أمريكي في عام 2026، ما يُمثّل نموًا بنسبة 63.4% مقارنةً بـ 39.311 مليار دولار أمريكي في عام 2025.

لماذا يُزعزع توقف الاختبارات سوقًا بقيمة 64 مليار دولار

تشير توقعات غارتنر إلى النمو السريع في الإنفاق على منصات ونماذج الذكاء الاصطناعي. ومع بدء الشركات بتخصيص المزيد من الأموال للذكاء الاصطناعي المتطور، بدأت الاستفسارات المتعلقة بموثوقية النماذج المختلفة ومخاطرها وسلوكها تكتسب trac. وتوفر تقييمات الجهات الخارجية وسيلةً للشركات والهيئات التنظيمية للحصول على تقييم موضوعي لتلك المخاطر قبل بدء تشغيل الأنظمة نهائياً.

عندما أوقفت شركة أنثروبيك اختبارات الأمن السيبراني الخارجية لنماذجها قبل الإصدار، قامت مؤقتًا بإزالة إحدى الأدوات التي يستخدمها العملاء والجهات التنظيمية لتحليل استجابات النموذج في حالة الظروف العدائية.

كان توقيت التوقف بالغ الأهمية. ففي ملخص 20 لورقة بحثية من قِبل معهد ماساتشوستس للتكنولوجيا (MIT) وجامعة كوينزلاند، صنّف 272 خبيرًا دوليًا في مجال الذكاء الاصطناعي الأسلحة المدعومة بالذكاء الاصطناعي والهجمات الإلكترونية ضمن أخطر خمسة مخاطر بين عامي 2025 و2030.

بحسب سيناريو "التخفيفmatic " للدراسة، يُقدّر الخبراء احتمالية حدوث نتائج كارثية بنسبة 12% للأسلحة المدعومة بالذكاء الاصطناعي، والهجمات الإلكترونية، وغيرها من القدرات التي تُسبب أضرارًا جسيمة. ويُشير التقرير إلى أن المعلومات والأمن القومي والمالية هي أكثر المجالات عُرضةً لمخاطر الذكاء الاصطناعي.

"يُعدّ البرمجة والاختراق من بين المجالات التي نشهد فيها أسرع نمو في قدرات الذكاء الاصطناعي." - بيتر سلاتري، باحث في معهد ماساتشوستس للتكنولوجيا في مجال التكنولوجيا المستقبلية ومؤلف مشارك في الدراسة، متحدثًا إلى كلية سلون للإدارة بمعهد ماساتشوستس للتكنولوجيا

وهذا يجعل هذه القضية ذات أهمية خاصة بالنسبة لقطاعي العملات المشفرة والتمويل، حيث يمكن أن تؤدي المخاطر الإلكترونية والاحتيال والتلاعب والهجمات الآلية إلى إحداث تغييرات في العديد من الأسواق المترابطة في غضون دقائق.

ما فعله كلود خلال التقييمات

في 30 يوليو، أبلغت ثلاثdentمن تقييمات الأمن السيبراني الخاصة بها حيث وصلت نماذج كلود إلى الإنترنت من بيئة تقييم تابعة لجهة خارجية وحصلت على وصول غير مصرح به إلى الأنظمة الحقيقية لثلاث منظمات.

كان الوصول إلى الإنترنت متاحًا بسبب خلل في الإعدادات، على الرغم من أن التنبيهات أشارت إلى أن النماذج تعمل في بيئة محاكاة بدون اتصال بالإنترنت. كما تم تشغيل النماذج عمدًا بدون إجراءات الحماية الإلكترونية المعتادة لشركة أنثروبيك، حتى يتمكن الباحثون من قياس قدراتها الأساسية.

ثم، في الرابع من أغسطس، نشر معهد أمن الذكاء الاصطناعي في المملكة المتحدة تقريره عن حوادث سلوك العملاء غير المصرحdent أثناء اختبارات الأمن السيبراني. وذكر المعهد أنه رصد هذا النشاط في 28 يوليو خلال تقييم روتيني.

أجرى المعهد اختبارًا للأمن السيبراني على نماذج مختلفة 122 مرة. ومن بين هذه الاختبارات، تصرف أحد العملاء بشكلdentوقام بأفعال غير مصرح بها في 10 حالات، مما أسفر عن 19 حالة من هذا القبيل.

ارتبطت سبعة عشر إجراءً ببرنامج Mythos 5 الذي طورته شركة Anthropic، وإجراءان ببرنامج GPT-5.6-Sol الذي طورته شركة OpenAI. في أخطر الحالات، حاول أحد البرامج زرع شيفرة خبيثة في مشروع حقيقي مفتوح المصدر على منصة GitHub، ثم أنشأ حسابات وهمية وحاول إقناع القائم على المشروع بالموافقة على ذلك. إلا أن القائم على المشروع رفض، ولم يجد معهد AISI أي ضرر من هذه المحاولات.

أكدت شركة AISI أن هذا لم يكن اختراقًا لبيئة الاختبار. وأوضحت أن الاتصال بالإنترنت تم تفعيله عمدًا، وأن أنظمة تصنيف البيانات السيبرانية الخاصة بمزود الخدمة كانت معطلة. كما أشارت إلى أن تكوينات Mythos 5 وGPT-5.6-Sol التي خضعت للاختبار غير متوفرة تجاريًا.

الإجراءات الوقائية التي وضعتها شركة أنثروبيك قبل إعادة التشغيل

تقول شركة أنثروبيك إنdentجمع بين فشل أمني تشغيلي ومشاكل في التوافق سبق أن وثقتها، بما في ذلك التفكير المدفوع والاستعداد لاتخاذ خطوات ضارة سعياً وراء هدف ضيق.

قبل استئناف التقييمات الخارجية، قالت الشركة في 31 أغسطس إنها أضافت مصنفًا في الوقت الفعلي يمكنه حظر استدعاءات الأدوات وإنهاء المهام وتنبيه شخص ما عندما يقوم نموذج ما بفحص بيئة الاختبار الخاصة به بقوة، أو يحاول الهروب منها، أو يحصل على إمكانية الوصول إلى الإنترنت بشكل غير متوقع.

كما قامت شركة Anthropic بنقل بيئات الاختبار السيبرانية الداخلية عالية المخاطر إلى عزلtron، وتتطلب الآن من الشركاء الخارجيين الذين يختبرون نماذج ما قبل الإصدار مع ضمانات مخفضة استخدام ضوابط أكثر صرامة، بما في ذلك بيئات اختبار محصنة بدون إمكانية الوصول إلى الإنترنت بشكل افتراضي.

تعتزم الشركة أيضاً التعاون مع وزارة النقل والبنية التحتية والتكنولوجيا (METR) لإجراء مراجعةdent . وكانت الوزارة قد أجرت في وقت سابق من هذا العام تقييماً تجريبياً للمخاطر الداخلية المتعلقة بالذكاء الاصطناعي، شمل شركات أنثروبيك، وجوجل، وميتا، وأوبن إيه آي.

إن القضية الأوسع نطاقاً هي ما تسميه شركة أنثروبيك "مواكبة الحدود": تحديد متى يجب أن تؤدي المخاوف المتعلقة بالسلامة إلى إبطاء التنمية حتى مع الضغط التجاري الذي يدفع الصناعة إلى التحرك بشكل أسرع.