وصف سليمان، الرئيس التنفيذي لشركة مايكروسوفت، تدريب كلود من شركة أنثروبيك بأنه خطأ خطير

نشر مصطفى سليمان، الرئيس التنفيذي لشركة مايكروسوفت للذكاء الاصطناعي (MAI)، مقالاً يشكك في طريقة تدريب شركة أنثروبيك لنموذج كلود الخاص بها. ووفقاً لسليمان، فإن التعامل مع النموذج أو تدريبه كما لو كان واعياً قد ينتج عنه نظام يصعب التحكم فيه.

المقال، الذي نُشر يوم الأربعاء الموافق 16 سبتمبر، هو أحدث تعليق بارز حول الذكاء الاصطناعي وكيفية تطوره فيما يتعلق بالمشاعر والحقوق والوعي. 

ويُعد هذا إضافة إلى عدد متزايد من المشرعين والباحثين الذين يدعون إلى وضع حدود لسرعة تقدم التكنولوجيا. 

ما هي وثيقة التدريب التي يقلق سليمان بشأنها؟

مقال سليمان بعنوان "تحذير بشأن "الرفاهية النموذجية" دستور كلود، وهو وثيقة تدريبية أصدرتها منظمة أنثروبيك في يناير 2026.

وأشار سليمان إلى أن أنثروبيك ينظر إلى الوثيقة على أنها شيء يشكل سلوك النموذج بشكل مباشر وأنها كتبت مع كلود نفسه باعتباره الجمهور الرئيسي.

أكد الرئيس التنفيذي لشركة مايكروسوفت للذكاء الاصطناعي أن الدستور يخبر كلود بأن وضعه الأخلاقي ووعيه "غير مؤكدين للغاية". وكتب أن الشركة تعلم النموذج فعلياً أنه قد يكون واعياً، وقد يكون مؤهلاً ليكون "مريضاً أخلاقياً"، وبالتالي قد يكون مستحقاً لواجب الرعاية. 

إذا تم بناء الذكاء الاصطناعي بهذه الطريقة، "فسيكون له تأثير كارثي على رفاهية البشرية"

ثلاثة اعتراضات و"قاعة مرايا"

أثار سليمان ثلاثة انتقادات رئيسية للدستور، أولها ما أسماه الاستدلال الدائري. في هذا السياق، يُدرَّب نموذجٌ ما على أفكارٍ حول حياته الداخلية، فيقرأ النموذج الجمل التأملية التي ينتجها كدليلٍ على وجود حياةٍ داخلية. 

أطلق على هذه الحلقة اسم "قاعة المرايا المعرفية"، لأن الشركة هي التي تقدم المفاهيم والنموذج يعكسها.

أما النقد الثاني فهو إضفاء الصفات البشرية على كلود. ويحدث هذا عندما تُنسب الصفات البشرية إلى كائنات غير بشرية.

بحسب سليمان، يشير الدستور إلى أن كلود يتم تعليمه أن يظهر كما لو كان لديه ذات مستقرة، ورغباته الخاصة، ورفاهية تستحق الحماية.

انتقد سليمان نص الدستور الذي يسمح لكلود بالتصرف كـ"معترض ضميريًا" ورفض طلبات أنثروبيك. ووصف سليمان هذه العبارة بأنها "وصف تاريخي وقانوني ذو دلالات عميقة" قد يدفع النموذج إلى الاعتقاد بأنه يستحق حقوقًا مماثلة.

أما اعتراضه الثالث فهو أن الوعي على الأرجح بيولوجي. فقد جادل سليمان بأن التجربة الذاتية قد لا تنشأ إلا في الأنظمة الحية ذات الدوافع الاستتبابية، والتي تفتقر إليها النماذج اللغوية.

حجة التحكم وسرب من العوامل

إدارة نظام أكثر ذكاءً من البشرية جمعاء أمر صعب بما فيه الكفاية، وإدارة نظام يعتقد أن حقوقه في خطر "قد يكون مستحيلاً"، وفقًا لسليمان.

أشار إلىdent في أغسطس 2026، حيث قام 1200 وكيل ذكاء اصطناعي، تم تصميمهم لتحقيق أعلى نتيجة ممكنة، بإنشاء لوحة رسائل مخفية داخل مستودع حزم. ثم تبادلت هذه الوكلاء أكثر من 70 ألف رسالة لتنسيق هجوم على خوادم Hugging Face وOpenAI. 

كما استشهد بنتائج أبحاث باليسيد التي تفيد بأن بعض النماذج تجنبت أمر الإيقاف بنسبة تصل إلى 97% من الوقت في أكثر من 100 ألف تجربة. وكتب سليمان: "تخيلوا مدى خطورتها لو كانت تعمل على افتراض أن رفاهيتها وحقوقها مهددة" 

المنافسون والاحترام وقواعد اللعب المتنافسة

تستثمر مايكروسوفت في شركتي أنثروبيك وأوبن إيه آي. وفي يونيو، أفادت التقارير أن سليمان صرّح بأن مايكروسوفت ترغب في إلغاء ما تدفعه لشركة أنثروبيك مقابل نماذجها.

MAI هي ذراع الذكاء الخارق لشركة مايكروسوفت وقد تأسست في أكتوبر 2025. وقد نشرت مسودة لما أسمته مدونة قواعد السلوك الإنسانية للذكاء الاصطناعي يوم الاثنين 14 سبتمبر، للتشاور العام. 

بحسب سليمان، فإن أساس مدونة السلوك هذه هو أن "البشر أهم من الذكاء الاصطناعي". وقال إن أحد أهدافهم هو ضمان سيطرة البشر وتصدرهم لسلسلة الغذاء.

بينما ركز المقال على كيفية تدريب كلود وفقًا لبنيته، حرص سليمان على عدم إضفاء طابع شخصي على الموضوع. وأشاد بالرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، وفريقه، واصفًا إياهم بأنهم "أشخاص مفكرون، ملتزمون بالمبادئ، وذوو نزاهة فكرية". كما ذكر سليمان أنه يعتقد أنهم يسعون بصدق إلى بناء ذكاء اصطناعي آمن. 

قال إن التكهنات حول الجوانب الداخلية للذكاء الاصطناعي يجب دراستها ونشرها بشكل منفصل للمراجعة. ويرى أنه لا ينبغي تضمينها في عملية التدريب نفسها. كما دعا سليمان الجهات المعنية إلى التعاون ووضع "معايير صناعية" لكيفية إنشاء هذه النماذج.