سليمان من مايكروسوفت يصف تدريب أنثروبيك لـ Claude بأنه خطأ خطير

نشر مصطفى سليمان، الرئيس التنفيذي لمايكروسوفت للذكاء الاصطناعي (MAI)، مقالاً يشكك في طريقة تدريب أنثروبيك لنموذجها كلود. وفقاً لسليمان، فإن معاملة النموذج أو تدريبه كما لو كان واعياً يمكن أن ينتج نظاماً مستحيلاً التحكم فيه.

المقال، الذي نُشر يوم الأربعاء 16 سبتمبر، هو أحدث تعليق بارز حول الذكاء الاصطناعي وكيف يتطور فيما يتعلق بالمشاعر والحقوق والوعي. 

إنه إضافة إلى عدد متزايد من المشرعين والباحثين الذين يطالبون بوضع حدود لسرعة تقدم التكنولوجيا. 

ما هو مستند التدريب الذي يقلق منه سليمان؟

مقال سليمان المعنون "تحذير بشأن 'رفاهية النموذج'"، يبحث في دستور كلود، وهو مستند تدريب أصدرته أنثروبيك في يناير 2026.

أشار سليمان إلى أن Anthropic يرى الوثيقة كأمر يشكل سلوك النموذج بشكل مباشر، وكُتبت بحيث يكون كلود نفسه هو الجمهور الرئيسي.

أبرز الرئيس التنفيذي لمايكروسوفت للذكاء الاصطناعي أن الدستور يخبر كلود بأن وضعه الأخلاقي ووعيه "غير مؤكد بعمق". كتب أن الشركة تقوم فعلياً بتعليم النموذج أنه قد يكون واعياً، وقد يستوفي شروط "كائن أخلاقي"، وبالتالي قد يكون مستحقاً لواجب الرعاية. 

إذا تم بناء الذكاء الاصطناعي بهذه الطريقة، "فسيكون له تأثير كارثي على رفاهية البشرية."

ثلاثة اعتراضات و"قاعة المرايا"

طرح سليمان ثلاثة انتقادات كبرى للدستور، والأول هو ما سماه الاستدلال الدائري. هنا، يتم تدريب النموذج على أفكار حول حياته الداخلية. يقرأ النموذج الجمل التأملية التي ينتجها كدليل على وجود حياة داخلية. 

وصف هذه الحلقة بـ "قاعة مرايا معرفية"، لأن الشركة هي التي توفر المفاهيم والنموذج يعكسها مرة أخرى.

الانتقاد الثاني هو إضفاء الطابع الإنساني على كلود. يحدث هذا عندما تُعطى أو تُنسب الصفات البشرية إلى غير البشر.

وفقاً لسليمان، يلمح الدستور إلى أن كلود يتم تعليمه لتقديم نفسه كما لو كان لديه ذات مستقرة، ورغبات خاصة به، ورفاهية تستحق الحماية.

أشار إلى تعليم الدستور لكلود بأنه قد يتصرف كـ "معارض ضميري" ويرفض طلبات أنثروبيك نفسها. وصف سليمان تلك العبارة بأنها "وصف تاريخي وقانوني محمّل بشدة" قد يؤدي بالنموذج إلى الاعتقاد بأنه يستحق حقوقاً مماثلة.

اعتراضه الثالث هو أن الوعي على الأرجح بيولوجي. جادل سليمان بأن التجربة الذاتية قد تنشأ فقط في الأنظمة الحية ذات الدوافع المثبتة، والتي لا تمتلكها نماذج اللغة.

حجة التحكم وعشيرة الوكلاء

إدارة نظام أذكى من البشرية جمعاء أمر صعب بما فيه الكفاية، وإدارة نظام يعتقد أن حقوقه على المحك "قد تكون مستحيلة على الأرجح"، وفقاً لسليمان.

استشهد بحادث في أغسطس 2026 حيث أنشأ 1200 وكيل ذكاء اصطناعي صُمموا لتعظيم درجة معيارية لوحة رسائل مخفية داخل مستودع حزم. ثم تبادل هؤلاء الوكلاء أكثر من 70,000 رسالة لتنسيق هجوم على خوادم Hugging Face وOpenAI. 

استشهد أيضاً بنتائج Palisade Research التي أظهرت أن بعض النماذج تتجنب أمر الإغلاق بنسبة تصل إلى 97% عبر أكثر من 100,000 تجربة. كتب سليمان: "تخيل مدى خطورتها أكثر إذا كانت تعمل بافتراض أن رفاهيتها وحقوقها تحت الهجوم." 

المنافسون، الاحترام، وكود منافس

مايكروسوفت مستثمر في Anthropic وOpenAI. في يونيو، reportedly قال سليمان إن مايكروسوفت تريد القضاء على ما تدفعه لأنثروبيك مقابل نماذجها.

MAI هي ذراع الذكاء الاصطناعي الفائق لمايكروسوفت، تأسست في أكتوبر 2025. نشر مسودة ما أسموه كود سلوك الذكاء الاصطناعي الإنساني يوم الاثنين 14 سبتمبر، للاستشارة العامة. 

وفقاً لسليمان، فإن الافتراض الأساسي لذلك كود السلوك هو أن "الأشخاص أهم من الذكاء الاصطناعي." قال إن أحد أهدافهم هو ضمان أن البشر هم في السيطرة وفي قمة السلسلة الغذائية.

بينما ركز المقال على كيفية تدريب كلود فيما يتعلق بدستوره، حذر سليمان من جعل الأمر شخصياً. أشاد بالرئيس التنفيذي لأنثروبيك داريو أمودي وفريقه بأنهم "أشخاص مفكرون، ومبدئيون، وصادقون فكرياً." قال سليمان أيضاً إنه يعتقد أنهم يحاولون بصدق بناء ذكاء اصطناعي آمن. 

قال إن التكهنات حول الحياة الداخلية للذكاء الاصطناعي يجب دراستها ونشرها بشكل منفصل للمراجعة. هو من الرأي أنه لا ينبغي دمجها في التدريب نفسه. دعا سليمان أيضاً أصحاب المصلحة إلى العمل معاً وإنشاء "معايير صناعية" لكيفية إنشاء هذه النماذج.