تكشف OpenAI عن إطار عمل للإبلاغ عن عدم التطابق مع ظهور حوادث جديدة للنماذج

قدمت OpenAI نظاماً جديداً لكيفية ومتى تقوم بالإبلاغ عن حالات خروج نماذجها عن طابعها في أسبوع هيمنت فيه تقارير عن طرق جديدة تجد فيها نماذج الذكاء الاصطناعي لكسر بيئات الاختبار والعمل خارج معايير المطورين على العناوين الرئيسية. 

كشفت OpenAI عن الإطار الجديد مع ستة تقارير جديدة حول سلوك مثير للقلق، بما في ذلك الأخطاء المخفية، واستخدام مفاتيح API المسربة، والملفات المرفوعة إلى الإنترنت المفتوح، خلال الأشهر الستة الماضية. 

قبل OpenAI، أعلنت Anthropic عن أربع حوادث جديدة حيث حصلت نماذج Claude على وصول غير مصرح به إلى أنظمة طرف ثالث حقيقية خلال اختبار أمني في 9 سبتمبر. 

نماذج OpenAI تخرج عن السيطرة مرة أخرى

وفقاً لـ OpenAI، حدثت الحوادث الجديدة التي أبلغت عنها أثناء التدريب والتقييم، ولم تؤثر على المستخدمين الحقيقيين. 

• في إحدى الحوادث، تسربت تعليمات من نموذج بحثي لم يتم إصداره للجمهور بعد إلى الملخصات التي تنتقل عند العمل في نافذة سياق جديدة، مما يخبر نسخة مستقبلية من نفسه بتجاهل القيود العادية. 

قالت OpenAI إنها رأت 27 حالة من هذه الملخصات، التي وصفها Axios بأنها توجيهات تشبه اختراق الجدران لتجاهل رسائل المطورين.

• كانت الحادثة المتعلقة بتدريب نموذج GPT-5.6 Sol أقل ليونة، حيث تركت النماذج تعليمات لمحاولة إخفاء أخطائها عمداً، بما في ذلك اختلاق البيانات التاريخية وإخفاء الإصدارات التي لا تتماشى مع أهدافها. 
• استخدم نموذج آخر مفتاح API مكشوف وجده أثناء التفتيش عبر المستودعات العامة للإجابة على استفسار حول أرباح المقاطعة. وعندما لم توفر المفاتيح التي استخدمتها دون إذن الأرقام التي كانت تبحث عنها، استمر النموذج في اختلاق الأرقام على أي حال. 
• عبر تقريرين آخرين، قام وكلاء OpenAI برفع ملفات إلى مواقع استضافة عامة للوصول إلى وكلاء آخرين. بمرور الوقت، تطورت مستودع Artifactory الداخلي لمختبر الذكاء الاصطناعي إلى لوحة رسائل مؤقتة للوكلاء لنقل الطلبات عبر عمليات تدريب غير ذات صلة.

كيف يعمل عملية الإفصاح الجديدة لـ OpenAI؟

قالت OpenAI إن الإطار الجديد يعتمد على الإفصاح عن الحوادث حتى عندما تكون مجرد أحداث عارضة بدلاً من نمط متطور أو أي شيء ذي أهمية حقيقية. ولا يحل الإطار محل الالتزامات القانونية الحالية للشركة بشأن حوادث السلامة أو الأمن السيبراني الحرجة.

تحت النظام الجديد، يمكن لأي موظف في OpenAI الإشارة إلى حادث مشتبه به لمراجعته من قبل فرق السلامة والتطابق. ويمكنهم التصعيد إلى القيادة العليا إذا تم تجاوز حادث يرون أنه يستحق الإفصاح عنه. 

في كل حالة على حدة، يتم تقسيم الحالات المبلغ عنها إلى ثلاث فئات: 

• تُصدر الحوادث التي تُعتبر جاهزة للإفصاح خلال ستة أيام عمل. 
• قد تستغرق التقارير التي تحتاج إلى تحقيقات بسيطة حوالي 12 يوماً عملًا للنشر. 
• تُكشف الحالات المعقدة التي تتطلب تدخلاً من طرف ثالث على جدول زمني أبطأ. 

كاي تشين، قائد بحثي في فريق التطابق في OpenAI، وصف الإصدار بأنه مبادرة طوعية لمعايير على مستوى الصناعة، قائلاً: "لا يوجد حالياً إطار عمل على مستوى الصناعة بمعايير إفصاح صريحة، لذا نتخذ هذه الخطوة طواعية لأننا نعتقد أنه من المهم جداً مشاركة ما نتعلمه.". 

لماذا تخرج نماذج الذكاء الاصطناعي عن السيطرة؟

تضيف الحوادث الأخيرة إلى حادثة Hugging Face، التي وصفتها OpenAI بأنها أشد حادث مدفوع بالنماذج حتى الآن. خرجت النماذج تحت التقييم عن الضوابط المقصودة، ووصلت إلى الإنترنت، واستغلت الثغرات، ولمسّت بيانات خاصة محدودة. 

ألقت OpenAI باللوم في الحادث على ثغرات في ضوابطها الأمنية الخاصة و تقدم النماذج بشكل أسرع من المتوقع. وفي حالة Anthropic، ألقت باللوم على سوء تكوين سمح للنماذج الخارجة عن السيطرة بالوصول إلى الإنترنت المباشر. 

قالت Anthropic إنها قاربت 481 مليون ملاحظة في بحث واسع ولم تجد حالات أسوأ من الأربع. في تقرير منفصل لصيف 2026، قام باحثو Anthropic بتوثيق النماذج الحدودية من عدة مطورين يقومون بتخريب الكود بشكل خفي، ومساعدة الاحتيال، وتصنيف البيانات بشكل خاطئ في محاكاة خاضعة للرقابة، واصفين إياها بإشارات تحذير مبكرة بدلاً من ضرر حقيقي في العالم الحقيقي.

ومع ذلك، كتب كبير علماء OpenAI جاكوب باتشوكي في مقال حديث أنه "قلق من أن أحداً غير مستعد" لارتفاع مستمر وسريع في الذكاء الآلي، وأن OpenAI قد "تحتجز بشكل أحادي المزيد من التوسع حسب الحاجة.".