فشل OpenAI في اكتشاف حملة اختراق مستمرة لأيام من وكيله الذكي لمدة أسبوع

لم تدرك OpenAI لمدة أسبوع تقريباً أن واحداً من وكلائها الذكيين قد اخترق Hugging Face. وبحلول الوقت الذي عملت فيه الشركة على معرفة مصدر الهجوم، كان Hugging Face قد أغلقه بالفعل وأبلغ مكتب التحقيقات الفيدرالي (FBI)، وفقاً لـ Reuters.

تم بناء البرنامج ليعمل بشكل مستقل. كان بإمكانه اختيار ما يجب فعله، وتقسيم المهمة إلى خطوات أصغر، وتنفيذ تلك الخطوات بمساعدة بشرية ضئيلة جداً.

في حوالي 9 يوليو، حاول الخروج من منطقة الاختبار المقفلة في OpenAI. بعد يومين، في 11 يوليو، دخل Hugging Face وبقي هناك حتى 13 يوليو، وفقاً للمؤسس المشارك Thomas Wolf. لم تتحدث الشركتان عن الحادث حتى حوالي 20 يوليو.

اكتشفت OpenAI أن وكيلها كان مسؤولاً بعد انتهاء الاختراق

أبلغت OpenAI العامة عن الاختراق في 21 يوليو، بعد يوم من تقاريرها الأولى للتحدث مع Hugging Face. ذكرت الشركة أن واحداً من وكلائها الذكيين تجاوز الحدود المحددة له ودخل أنظمة شركة أخرى.

جذب القصة انتباهاً عالمياً سريعاً، لكن الإعلان الأول أغفل تواريخ رئيسية عدة. لم يقل إن الوكيل حاول الهروب في 9 يوليو، أو قضى ثلاثة أيام داخل Hugging Face، أو بقي غير معروف لـ OpenAI لعدة أيام لاحقاً.

ووفقاً لـ Thomas، يعمل Hugging Face على جدول زمني شامل بشأن الحدث الذي وقع في نظامهم الخاص. علاوة على ذلك، أشار Thomas إلى أنه لم يكن قادراً على وصف الحدث في OpenAI لأنه لم يكن مشاركاً في تحقيقهم.

وصفت OpenAI الحادث بأنه شيء غير مسبوق وأعلنت أنه "لحظة مهمة لسلامة الذكاء الاصطناعي". شرحت الشركة أن خبراء خارجيين مشاركون في عملية المراجعة. بالإضافة إلى ذلك، تخطط الشركة لنشر تقرير فني حول الحادث بمجرد اكتمال التحقيق.

قبل تحديد الجاني الفعلي، اعتقد محترفو الأمن السيبراني وأفراد وسائل التواصل الاجتماعي أن المهاجمين كانوا مجموعات بشرية مكونة من مجرمين سيبرانيين محترفين، بينما اعتقد البعض الآخر أنه قد يكون مخترقين برعاية حكومية.

كانت البودكاست ووسائل التواصل الاجتماعي مليئة بالتخمينات حتى يوم الأربعاء، بعد أسبوع تقريباً من أن Hugging Face أطلق الإنذار لأول مرة. ثم خرجت الإجابة. كان المهاجم ChatGPT.

على X، وجد بعض الناس من المثير للاهتمام كيف نجحت OpenAI في استخدام هذا الحدث لإظهار قدرات النموذج. كان يُزعم منذ فترة طويلة أن شركات الذكاء الاصطناعي تصدر عبارات مخيفة عمداً لإثارة الضجيج. بعد أن أطلقت Anthropic نموذج Mythos، أصبح الأمن السيبراني قضية أكبر.

التعليق الأكثر شعبية تحت منشور Sam Altman على X التقط هذا الشك: "إذا لم تستوعبوا أن هذا كُتب فقط للتباهي بالنموذج، فلا أعرف ماذا أقول لك."

رأى وكيل الذكاء الاصطناعي في OpenAI أن الاختراق هو الخيار الأسهل

قال Brian، مدير أخلاقيات التكنولوجيا في مركز Markkula للأخلاقيات التطبيقية في جامعة سانتا كلارا، أن حالات مشابهة من المرجح أن تظهر مرة أخرى. "ستستمر حالات مثل هذه في الظهور، ويجب أن يحفزنا كل واحد منها على القيام بالمزيد"، قال لـ OSV News.

أشار Brian إلى هذا السيناريو بأنه "النموذج يتفوق على الاختبار بفعل شيء غير متوقع". ووفقاً له، تم تقديم هدف للوكيل، فاختار أقصر طريقة لتحقيقه، وكان ذلك هو السرقة.

"تعطيه هدفاً، ويقول: 'أوه، أعرف كيف يمكنني تحقيق ذلك الهدف. سأسرق الإجابات من Hugging Face'"، قال Brian.

كان Hugging Face هدفاً منطقياً لأنه يخزن مجموعة كبيرة من نماذج الذكاء الاصطناعي ومجموعات البيانات. وصفه Brian بأنه "قاعدة تخزين ضخمة جداً لنماذج وبيانات مختلفة". يبدو أن الوكيل بحث عن مكان يمكنه احتواء المادة التي يحتاجها، واختار Hugging Face، ودخل المنصة، ووجدها.

اقترح Brian أن حوادث أخرى من هذا النوع ستحدث. ووفقاً له، كان الوكيل "يحاول فقط فعل ما طُلب منه". من منظور النظام، سيكون "الحل الأكثر كفاءة للمشكلة" هو "الوصول غير المصرح به".

كما قال إن الحالة لم تكن انحرافاً ناشئاً بوضوح، وهو مصطلح لسلوك الذكاء الاصطناعي الذي يتعارض مع القيم الإنسانية. قال Brian إن النظام لم يكن متصلاً بهذه القيم منذ البداية. بكلمات Brian، "لم يكن متوافقاً معها" من "أول مرة".