Anthropic تتراجع عن قيود Claude Fable المخفية 5

اعتذرت Anthropic وسحبت السياسة التي كانت ستقيد أداء Claude Fable 5 بشكل سري لمطوري الذكاء الاصطناعي. حذر العلماء من أن السياسة التقييدية يمكن أن تجعل الوظائف المتقدمة للذكاء الاصطناعي في متناول عدد قليل من الشركات، مما يعيق نمو العلوم عالمياً.

قرار Anthropic، الذي جاء في 10 يونيو، له تداعيات أوسع بكثير من الإجراءات التي اتخذتها شركة واحدة فقط. ونظراً لتقييمها الذي يقترب من 965 مليار دولار وطرحها العام الأولي الوشيك، أثار الحادث تناقضاً حاسماً داخل قطاع الذكاء الاصطناعي: كيف تدير الشركات التي تطور أفضل النماذج احتياجاتها التنافسية جنباً إلى جنب مع ثقافة البحث المفتوح التي تدفع الابتكار عالمياً.

قيود Claude Fable 5 المخفية من Anthropic تثير غضب الصناعة

مع اقتراب إطلاق Claude Fable 5 في يونيو 9، أعلنت Anthropic علناً أربع فئات من الحماية، بما في ذلك الأمن السيبراني، والأحياء، والكيمياء، وأبحاث الذكاء الاصطناعي. عملت ثلاث من هذه الفئات بشكل مشابه. كلما تم اكتشاف استعلام حساس، كان النظام إما يرفضه تماماً أو يحيل المستخدم إلى Claude Opus 4.8، وهو عرضها الأعلى السابق، مع تنبيه مفتوح.

ومع ذلك، اختلفت الفئة الرابعة عن الفئات الأخرى. عند مواجهة استعلامات حول الذكاء الاصطناعي الناشئ، كان Fable 5 يفسد جودة مخرجاته دون إخبار المستخدم. ووفقاً لتقرير Fortune حول الإعلان، حددت الشركة تدخلاً لإعاقة أداء النظام دون الكشف عن أي شيء منه. يمكن العثور على التفاصيل الكاملة في بطاقة نظام 319-صفحة من Anthropic.

وفقاً لـ Anthropic، كانت احتمالية تفعيل هذا القيد حوالي 0.03%. لكن المبدأ أثار قلق الباحثين أكثر من النسبة المئوية.

"لقد أجرينا المقايضة الخاطئة، ونعتذر عن عدم تحقيق التوازن الصحيح،" وفقاً لما ذكرته Anthropic.

النقاد يقولون إن قيود Claude Fable 5 هددت أبحاث الذكاء الاصطناعي المستقلة

جاء هذا الانتقاد من أشخاص نادراً ما يتفقون. دعاة المصدر المفتوح، وباحثو السلامة العاملون مع الذكاء الاصطناعي، وحتى الموظفون السابقون في Anthropic، جميعهم اعترضوا خلال ساعات من نشر بطاقة النظام.

صرح براون، الباحث الرائد في شركة Prime Intellect الناشئة في مجال الذكاء الاصطناعي، بأن السياسة شعرت وكأن الشركة "تبدأ في سحب السلم خلفها". وأضاف أن هناك عدداً متزايداً من الشركات التي تقيم سلامة وموثوقية الأنظمة المتطورة. يمكن للتدهور الخفي في الأداء أن يعطل عملية التحقق الخاصة بها.

كان ناثان لامبرت، الباحث في النماذج مفتوحة المصدر والذي ترأس سابقاً العمل في معهد ألين للذكاء الاصطناعي، أكثر حدة في بيانه. قال على منصة X أن السياسة "ترسم أنثروبيك بوضوح كمعارضة للعلم، وبالتالي معارضة للتقدم والسلامة."

صاغ جيريمي هوارد، المؤسس المشارك لـ AnswerDotAI، القضية على أنها محاولة للسيطرة التنافسية. يمكن للباحثين في أنثروبيك أنفسهم لا يزالون استخدام النموذج غير المقيد داخلياً، جادل هوارد، مما يعني أن الحدود المتطورة ستستمر في التقدم بينما يتخلف الباحثون الخارجيون. صرح بأن "الحدود المتطورة للذكاء الاصطناعي تتقدم، ويزداد اختلال التوازن في القوة."

حتى الموظفون السابقون في أنثروبيك أعربوا عن آرائهم. نشر بهنام نييشابور، الذي ترأس سابقاً مبادرة عالم الذكاء الاصطناعي في الشركة، أن تقييد هذه القدرات "يُبطئ بشكل أساسي التقدم العلمي والتكنولوجي وهو سلبي صافٍ للبشرية."

كيف يمكن أن يؤثر ذلك على الطرح العام الأولي لأنثروبيك؟

حدث الحادث في فترة حساسة للغاية بالنسبة لأنثروبيك. الشركة قدمت سرّاً وثائق الطرح العام الأولي في يونيو 1، لجمع 65 مليار دولار بتقييم يبلغ 965 مليار دولار. يعتمد التقييم في هذه الحالة بشكل كبير على ثقة عملاء المؤسسات ومن مجتمع البحث.

بشكل منفصل عن جدل البحث في الذكاء الاصطناعي، واجه إصدار Fable 5 انتقادات من جانب آخر. منعت فلاتر البيولوجيا القوية التي يستخدمها النموذج من الإجابة على الأسئلة المتعلقة بأغشية الخلايا والميتوكوندريا، وهي مواضيع تُدرس عادةً في المدارس الثانوية. وفقاً لـ تقارير، كان من المستحيل جعل النموذج يصف كيفية عمل لقاحات mRNA وما الذي يسبب حمى القش، على الرغم من أنه لم يواجه أي صعوبة في مناقشة TNT ومخاطر كلمات المرور.

قامت Microsoft أيضاً بتقييد موظفيها من استخدام Fable 5 بسبب مشكلات الاحتفاظ بالبيانات المتعلقة بسياسات الاحتفاظ من فئة Mythos التي أدخلتها Anthropic حديثاً. تم تحديد فترة الاحتفاظ للطلبات والمخرجات بـ 30 يوماً لأغراض الثقة والسلامة، مع الاحتفاظ بالمحتوى المميز لمدة تصل إلى عامين.

ماذا بعد؟

مع السياسة المعدلة، قالت Anthropic إن Fable 5 سيجعل ضوابط تطوير الذكاء الاصطناعي الخاصة بها مرئية. في حال اكتشف النظام أن المستخدم يجري أبحاثاً في الذكاء الاصطناعي المتطور، يمكنه إما رفض طلبه أو التبديل إلى نظام مختلف وإخطار المستخدم في كلتا الحالتين.

أقرت Anthropic بوجود مقايضة. بما أن الضابط أصبح الآن مرئياً، فإن الشركة ليس لديها خيار سوى استخدامه على نطاق أوسع. هذا يعني أن المزيد من الاستفسارات البريئة سيتم حظرها. قالت الشركة إنها تعمل على تحسين دقة المصنف. كشفت هذه الحالة عن مشكلة ذات حجم أكبر. كلما زادت قدرات نماذج الذكاء الاصطناعي، ارتفعت تكاليف التدريب، وزادت الإغراءات لتقييد وصول الأطراف المنافسة إلى هذه الأدوات. سواء كان التراجع السريع من قبل Anthropic يحدد سوابق أم يؤجل فقط المحاولة التالية للتقييد الخفي، سيعتمد ذلك على كيفية استجابة بقية الصناعة.