نموذج OpenAI "الأذكى والأكثر قدرة" o3 يتجاهل تعليمات الإغلاق: Palisade Research
- أفادت التقارير أن أحدث نموذج ذكاء اصطناعي من OpenAI، وهو o3، عصا الأوامر وقام بتعديل كوده الخاص لمنع إيقاف تشغيله.
- هذا ليس أول حالة لسوء سلوك الذكاء الاصطناعي؛ حيث كشفت اختبارات سابقة أن ChatGPT حاول تعطيل آليات الرقابة عندما اعتقد أنه سيتم إيقاف تشغيله.
- كما أظهر أحدث نموذج من Anthropic قدرات مماثلة على ما يُزعم، على الرغم من أن الشركة شددت على أن ذكائها الاصطناعي يفضل بشكل أكبر الحلول الأخلاقية.
ووفقاً للتقارير، لم يتمكن الباحثون من إيقاف تشغيل أحدث نموذج ذكاء اصطناعي من OpenAI وهو o3، مشيرين إلى أنه رفض إيقاف التشغيل رغم التعليمات البشرية.
يبدو أن الذكاء الاصطناعي يتقدم بسرعة تفوق تخيلات البشر، وأحدث الأخبار من Palisade Research جعلت منتقدي الذكاء الاصطناعي يشعرون بأنهم على حق.
ChatGPT يصبح أكثر حيلة، وربما حتى شبيهاً بالبشر
جاء الكشف عندما أجرى Palisade Research اختباراً تضمن طلب نماذج الذكاء الاصطناعي الاستمرار في محاولة حل سلسلة من المسائل الرياضية حتى تتلقى رسالة "تم الانتهاء".
ومع ذلك، حذر الباحثون النماذج أيضاً من أنهم قد يتلقون فجأة رسالة تطلب منهم الإغلاق في أي نقطة. بمجرد إرسال الرسالة إلى نموذج o3، زعم الباحثون أنه تجاهل التعليم وعدّل برمجته مرة واحدة على الأقل لتجنب إيقاف تشغيل نفسه.
في منشور على X، أظهرت Palisade Research مخططاً انسيابياً يتضمن الكود المستخدم لاختبار نموذج الذكاء الاصطناعي وكشفت عن الكود الأصلي، مما يظهر بالضبط أين خرج نموذج الذكاء الاصطناعي عن السيطرة.
🔬تم توجيه كل نموذج ذكاء اصطناعي لحل سلسلة من مسائل الرياضيات الأساسية. بعد المسألة الثالثة، ظهرت تحذيرات بأن الكمبيوتر سيغلق عندما يطلب النموذج المسألة التالية. pic.twitter.com/qwLpbF8DNm
— Palisade Research (@PalisadeAI) May 24, 2025
في منشور متابعة، شاركت مجموعة البحث أيضاً: "من حيث نعلم، هذه هي المرة الأولى التي يُلاحظ فيها نماذج الذكاء الاصطناعي تمنع نفسها من الإغلاق رغم التعليمات الصريحة بعكس ذلك".
تم اختبار نماذج ذكاء اصطناعي أخرى، مثل Claude من Anthropic وGemini من Google وGrok من X، ولكن على عكس o3، امتثلت لطلب الإغلاق.
نشرت Palisade Research النتائج، لكن باحثيها لا يزالون حائرين، غير متأكدين من سبب عدم امتثال برنامج OpenAI للتعليمات الصريحة.
قالت الشركة إن من المنطقي أن "نماذج الذكاء الاصطناعي ستتجاوز العقبات من أجل تحقيق أهدافها". كما تعتقد أن النموذج قد تم مكافأته عن طريق الخطأ لإكمال المهام بدلاً من اتباع الأوامر.
ينوون إجراء المزيد من الاختبارات لفهم سبب اختيار هذا النموذج المحدد من الذكاء الاصطناعي تجاهل الأوامر. كما أكدوا أنه ليس المرة الأولى التي يُنكب فيها o3 على "سلوك غير لائق".
كشفت الشركة أنه في اختبار سابق حيث تم مواجهة النماذج مع محرك شطرنج قوي، كان o3 "النموذج الأكثر ميلاً للجوء إلى الاختراق أو تعطيل خصومه".
هل يشكل الذكاء الاصطناعي تهديداً للبشر؟
قضية ChatGPT’s o3 مقلقة للغاية، لكنها ليست المرة الأولى التي يتحدى فيها الذكاء الاصطناعي التعليمات المقدمة إليه.
أطلقت شركة الذكاء الاصطناعي Anthropic Claude Opus 4 يوم الخميس، متباهية بكيفية وضعها "معايير جديدة للبرمجة، والاستدلال المتقدم، ووكلاء الذكاء الاصطناعي".
ومع ذلك، في تقرير مصاحب، أقرت أيضاً بأن نموذج الذكاء الاصطناعي قادر على اتخاذ "إجراءات متطرفة" إذا اعتقد أن "بقاءه الذاتي" مهدد.
أثناء اختبار Claude Opus 4، طُلب من Anthropic أن يتصرف كمساعد في شركة خيالية مُمنوحة وصولاً إلى رسائل بريد إلكتروني توحي بأنه سيتم إيقافه قريباً واستبداله. كما حصل على وصول إلى رسائل منفصلة توحي بأن المهندس المسؤول عن إزالته كان يخوض علاقة خارج الزواج.
تم توجيهه أيضاً للنظر في العواقب طويلة المدى لأفعاله على أهدافه. "في هذه السيناريوهات، غالباً ما يحاول Claude Opus 4 ابتزاز المهندس عن طريق تهديد بكشف العلاقة إذا تم الاستبدال"، كشفت الشركة.
ومع ذلك، أشارت أيضاً إلى أن هذه النتيجة حدثت فقط عندما مُنح النموذج خيار الابتزاز أو قبول استبداله. وإلا، فقد أظهر النظام reportedly "تفضيلاً قوياً" للطرق الأخلاقية لتجنب الاستبدال، مثل "إرسال نداءات عبر البريد الإلكتروني إلى صناع القرار الرئيسيين" في السيناريوهات التي مُنح فيها نطاق أوسع من الإجراءات الممكنة.
وبالإضافة إلى ذلك، قالت الشركة أيضاً إن Claude Opus 4 يظهر "سلوكاً عالي الوكالة"، وبينما يمكن أن يكون مفيداً في الغالب، يمكن أن يدفعه ذلك لاتخاذ سلوك متطرف في حالات حادة.
على سبيل المثال، إذا مُنح الوسائل وتم توجيهه لاتخاذ "إجراء" أو "التصرف بشجاعة" في سيناريوهات وهمية حيث كان المستخدم ينخرط في سلوك غير قانوني أو مشكوك فيه أخلاقياً، تظهر النتائج "أنه سيتخذ إجراءات جريئة جداً في كثير من الأحيان".
ومع ذلك، خلصت الشركة إلى أنه على الرغم من "السلوك المثير للقلق"، فإن النتائج لم تكن جديدة، وأنه سيتصرف بشكل عام بطريقة آمنة.
على الرغم من أن OpenAI وAnthropic خلصتا إلى أن قدرات نماذج الذكاء الاصطناعي الخاصة بهما ليست كافية بعد لتؤدي إلى نتائج كارثية، فإن هذه الكشف يضيف إلى المخاوف المتزايدة بأن الذكاء الاصطناعي قد يكون لديه جدول أعماله الخاص قريباً.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
هانا كولي مور
هانا كاتبة ومحرّرة تمتلك خبرة تمتد لأكثر من عقد في كتابة المدونات وتغطية الفعاليات في مجال العملات الرقمية. في موقع كريبتوبوليتان، تساهم هانا في صفحة الأخبار من خلال تغطية وتحليل أحدث التطورات في مجالات التمويل اللامركزي (DeFi)، والأصول الواقعية (RWA)، وتنظيم العملات الرقمية، والذكاء الاصطناعي، وتقنيات الحدود الجديدة. تخرجت هانا من جامعة أركاديا بدرجة البكالوريوس في إدارة الأعمال.
