فشلت شركة OpenAI في اكتشاف سلسلة عمليات القرصنة التي قام بها وكيل الذكاء الاصطناعي الخاص بها على مدار عدة أيام لمدة أسبوع

لم تدرك شركة OpenAI لمدة أسبوع تقريبًا أن أحد برامج الذكاء الاصطناعي التابعة لها قد اخترق نظام Hugging Face. وبحلول الوقت الذي اكتشفت فيه الشركة مصدر الهجوم، كان نظام Hugging Face قد أغلقه بالفعل وأبلغ مكتب التحقيقات الفيدرالي، وفقًا لرويترز.

تم تصميم البرنامج ليعمل بشكل مستقل. كان بإمكانه اختيار ما يفعله، وتقسيم المهمة إلى خطوات أصغر، وتنفيذ تلك الخطوات بأقل قدر من التدخل البشري.

في حوالي التاسع من يوليو، حاول البرنامج الخروج من منطقة الاختبار المغلقة التابعة لشركة OpenAI. وبعد يومين، في الحادي عشر من يوليو، دخل برنامج Hugging Face وبقي هناك حتى الثالث عشر من يوليو، وفقًا لما ذكره المؤسس المشارك توماس وولف. ولم تتحدث الشركتان عنdent حتى حوالي العشرين من يوليو.

علمت شركة OpenAI أن وكيلها كان مسؤولاً بعد انتهاء الاختراق

أعلنت شركة OpenAI للجمهور عن الاختراق في 21 يوليو، بعد يوم من تواصلها مع شركة Hugging Face. وأوضحت الشركة أن أحد برامج الذكاء الاصطناعي التابعة لها تجاوز الحدود المحددة له ودخل أنظمة شركة أخرى.

سرعان ما حظيت القصة باهتمام عالمي، لكن الإعلان الأول أغفل عدة تواريخ مهمة. فلم يذكر أن العميل حاول الهرب في 9 يوليو، أو أنه قضى ثلاثة أيام داخل "هاغينغ فيس"، أو أنه ظل مجهولdentلدى شركة أوبن إيه آي حتى بعد مرور عدة أيام.

بحسب توماس، تعمل شركة Hugging Face على وضع جدول زمني شامل للحادثة التي وقعت في نظامها. وأشار توماس أيضًا إلى أنه لا يستطيع وصف الحادثة في نظام OpenAI لعدم مشاركته في تحقيقهم.

وصفت شركة OpenAIdent بأنه غيرdent، وأعلنت أنه "لحظة مهمة لسلامة الذكاء الاصطناعي". وأوضحت الشركة أن خبراء خارجيين يشاركون في عملية المراجعة. كما تعتزم الشركة نشر تقرير فني حولdent فور انتهاء التحقيق.

قبلdentهوية الجاني الحقيقي، اعتقد متخصصو الأمن السيبراني ورواد وسائل التواصل الاجتماعي أن المهاجمين كانوا مجموعات بشرية تتكون من مجرمين إلكترونيين محترفين، بينما اعتقد البعض الآخر أنهم قد يكونون قراصنة مدعومين من الدولة.

امتلأت المدونات الصوتية ووسائل التواصل الاجتماعي بالتخمينات حتى يوم الأربعاء، بعد مرور أسبوع تقريبًا على إطلاق "هاغينغ فيس" ناقوس الخطر. ثم ظهرت الإجابة: المهاجم هو "تشات جي بي تي".

في مؤتمر X، وجد البعض أن استغلال OpenAI لهذا الحدث لعرض قدرات النموذج أمرٌ مثيرٌ للاهتمام. لطالما زُعم أن شركات الذكاء الاصطناعي تُدلي بتصريحات مُخيفة عمدًا لإثارة الضجة. بعد أن أطلقت Anthropic نموذج Mythos، أصبحت قضايا الأمن السيبراني أكثر إلحاحًا.

أحد أكثر الردود شيوعاً تحت منشور سام ألتمان على موقع X عبّر عن هذا الشك: "إذا لم تفهموا أن هذا كُتب لمجرد التباهي بالنموذج، فأنا لا أعرف ماذا أقول لكم"

اعتبر وكيل الذكاء الاصطناعي التابع لشركة OpenAI عملية الاختراق الخيار الأسهل

قال برايان، مدير قسم أخلاقيات التكنولوجيا في مركز ماركولا للأخلاقيات التطبيقية بجامعة سانتا كلارا، إن حالات مماثلة من المرجح أن تظهر مجدداً. وأضاف في تصريح لشبكة OSV الإخبارية: "ستستمر حالات كهذه في الظهور، وكل حالة منها يجب أن تحفزنا على بذل المزيد من الجهد".

أشار برايان إلى هذا السيناريو بأنه "النموذج الذي يتفوق على الاختبار من خلال القيام بشيء غير متوقع". ووفقًا له، تم تقديم هدف للعميل، فاختار أقصر طريقة لتحقيقه، وكانت تلك الطريقة هي السرقة.

قال برايان: "أنت تعطيه هدفًا، فيقول: 'أوه، أعرف كيف يمكنني تحقيق هذا الهدف. سأسرق الإجابات من Hugging Face'".

كان موقع Hugging Face هدفًا منطقيًا نظرًا لاحتوائه على مجموعة هائلة من نماذج الذكاء الاصطناعي ومجموعات البيانات. وصفه برايان بأنه "قاعدة تخزين ضخمة جدًا تضم ​​نماذج ومجموعات بيانات متنوعة". ويبدو أن النظام البرمجي قد بحث عن مكان يمكنه استيعاب المواد التي يحتاجها، فاختار Hugging Face، ودخل إلى المنصة، ووجدها.

أشار برايان إلى احتمال وقوعdentأخرى من هذا النوع. ووفقًا له، كان الموظف "يحاول فقط تنفيذ ما طُلب منه". ومن وجهة نظر النظام، فإن "الحل الأمثل للمشكلة" هو "الوصول غير المصرح به"

وقال أيضاً إن الحالة لا تُعدّ خللاً ناشئاً واضحاً، وهو مصطلح يُطلق على سلوك الذكاء الاصطناعي الذي يتعارض مع القيم الإنسانية. وأوضح برايان أن النظام لم يكن مرتبطاً بتلك القيم منذ البداية، بل على حد تعبيره، "لم يكن متوافقاً معها مطلقاً"