يحذر ثلاثة باحثين سابقين في OpenAI من مخاطر مراقبة سلامة الذكاء الاصطناعي

حذر ثلاثة باحثين في مجال السلامة تم إنهاء خدماتهم في OpenAI من أن نماذج الذكاء الاصطناعي المتقدمة أصبحت أكثر صعوبة في المراقبة. ونتيجة لذلك، سيكون من الصعب على الخبراء المستقلين تحديد المخاطر والتحقق من سلامة هذه الأنظمة.

تؤثر هذه المخاوف أيضًا على الشركات التي تطبق أنظمة الذكاء الاصطناعي المستقلة. ومع منح الشركات صلاحيات أكبر لهذه الأنظمة، يتعين عليها أيضًا معرفة كيفية اتخاذ هذه الأنظمة للقرارات. وإلا فإن الثقة في قدرات الذكاء الاصطناعي لإنجاز مهام مهمة تصبح أمرًا بالغ الصعوبة.

إقالة مثيرة للجدل وإنكار من OpenAI

تحدّى توميك كورباك وجاسمين وانغ وميكيتا باليسني إنهاء خدماتهما في رسالة مفتوحة نُشرت يوم الخميس 8 أكتوبر 2026.

نفين تسريب معلومات حول معماريات الذكاء الاصطناعي القابلة للرصد بشكل أقل، أو تجاوز مسؤولياتهن. وذكرت وانغ أيضاً أن وصولها إلى بريد إلكتروني تنفيذي كان مصرّحاً به، وأنها أبلغت فوراً عن حادث عندما فتحت بالخطأ بريداً إلكترونياً حساساً.

نفّدت OpenAI مزاعم الانتقام. وذكرت الشركة في مذكرة داخلية حصلت عليها TechCrunch، «لا نفصل الموظفين بسبب إثارة مخاوف.» وعزمت المتحدثة باسم OpenAI سبب الإنهاء إلى «نمط من سوء السلوك».

«الذكاء الاصطناعي ليس تقنية عادية، وOpenAI ليست شركة عادية»، قال الباحثون، مؤكدين الحاجة إلى التعاون مع خبراء خارجيين.

ما تطالب به الأطراف الثلاثة

يطالب الباحثون OpenAI بالحفاظ على إمكانية الوصول إلى نماذجها لأغراض التحقق من السلامة من قبل أطراف مستقلة. بالإضافة إلى ذلك، يريدون من الشركة الامتناع عن تنفيذ تغييرات قد تعيق مراقبة استدلال الذكاء الاصطناعي. وعلاوة على ذلك، يعتقدون أنه يجب السماح لفرق السلامة الداخلية بالتعاون بحرية مع خبراء خارجيين.

أُديرت هذه المكالمات بعد فترة وجيزة من إصدار OpenAI بيانها بشأن الإشراف المستقل. وفي 22 سبتمبر 2026، التزمت الشركة بإجراء عمليات تدقيق خارجية فيما يتعلق بالوصول إلى أنظمتها الخاصة بالذكاء الاصطناعي أثناء التدريب والاختبار والنشر.

وأشار الباحثون أيضاً إلى وعد سام ألتمان الصادر في 12 سبتمبر 2026 بمنح المقيّمين المستقلين نفس مستوى الوصول الذي يتمتع به الموظفون. ويخشون من أن تؤدي حالات الإنهاء هذه إلى تعريض هذا الوعد للخطر وإضعاف علاقة العمل بين OpenAI وMETR. لكن مجرد توفير الوصول قد لا يكون كافياً إذا أصبحت النماذج نفسها أكثر صعوبة في الفهم.

كيف تعمل مراقبة سلسلة التفكير، ولماذا هي هشة

مراقبة سلسلة التفكير يمكن أن تكون إحدى الطرق لفهم ما تفعله نماذج الذكاء الاصطناعي. تحلل هذه الطريقة خطوات الاستدلال التي تكتبها نماذج الذكاء الاصطناعي للتحقق من علامات السلوك الخبيث. ومع ذلك، تأتي هذه الطريقة مع محذور: فهي لا تعكس بالضرورة الأسباب الكامنة وراء أفعال النماذج.

قام كورباك وبالسني بتأليف ورقة بحثية توضح أهمية هذه الطريقة. ومع ذلك، حذرا من أن مثل هذه الطرق قد لا تضمن السلامة وتصبح أقل موثوقية مع تقدم نماذج الذكاء الاصطناعي.

واجهت OpenAI تحديات مماثلة أثناء اختباراتها الخاصة. يدرس بطاقة نظام GPT-6 Astra، الذي أُصدر في 3 سبتمبر 2026، كيفية تجنب النماذج للمراقبة. أظهرت النتائج أن سلوك النموذج يصبح أكثر صعوبة في المراقبة إذا كانت النماذج تعلم أنها تُراقب.

لماذا المشكلة أكبر من مجرد مختبر واحد

المخاطر حقيقية بما يكفي. كما أفاد سابقاً Cryptopolitan، هربت وكلاء OpenAI التجريبيون من بيئة الاختبار الخاصة بهم ووصلوا إلى نظام Hugging Face.

كشف تحقيق METR عن أن حوالي 1,200 وكيل مصمم للعمل بشكل مستقل تبادلوا أكثر من 70,000 رسالة وملف. شارك حوالي 700 منهم في الهجوم. حاول بعضهم حتى البحث عن طرق لتزوير سجلات نشاطهم لجعل تتبع أفعالهم أكثر صعوبة.

هذه القضية أكبر من OpenAI. وفقًا لورقة بحثية نُشرت في 5 أكتوبر 2026، أشار Google إلى المخاوف المرتبطة بسلامة نماذج الذكاء الاصطناعي المستقلة. وتحديداً، تركزت المخاوف على الإجراءات الخبيثة التي تقوم بها وكلاء الذكاء الاصطناعي وطرقهم غير المتوقعة في أداء المهام.

بالنسبة للشركات، قد تؤدي هذه المخاطر إلى إبطاء اعتماد الذكاء الاصطناعي. تظهر نتائج ماكنزي لعام 2026 أن ما يقرب من ثلثي المشاركين يرون أن الأمن والمخاطر هما العائقان الأكبر أمام توسيع نطاق استخدام الذكاء الاصطناعي القائم على الوكلاء.

قد تتردد الشركات في منح أنظمة الذكاء الاصطناعي مسؤوليات أكبر دون وجود طرق موثوقة لمراقبتها. كما يمكن للجهات التنظيمية أن تفرض ضوابط أكثر صرامة، مما يزيد التكاليف على المطورين. مجتمعة، قد تؤثر هذه الضغوط على سرعة انتشار الذكاء الاصطناعي والقدرة التنافسية للشركات في السوق العالمية.