رئيس سلامة الذكاء الاصطناعي الخاص بـ Anthropic يقول إن هناك احتمالاً أكبر من 10% بأن يتم القضاء على البشرية

يقول إيفان هوبينغر، قائد علوم المحاذاة في Anthropic، إن للذكاء الاصطناعي احتمالاً أكبر من 10% للقضاء على البشرية خلال العقد القادم.

جاء تقديره يوم الثلاثاء، بعد ساعات من إعلان الباحث جاكوب كوكسون استقالته من Anthropic واتهام Anthropic و OpenAI باتخاذ مخاطر غير مقبولة بينما يسعون وراء أنظمة أقوى. كتب جاكوب على X: "إنهم يسابقون نحو ذكاء اصطناعي فائق ذاتي التحسين ويراهنون بحياتنا".

وفقاً لجيكوب، يرى المطورون لهذه التكنولوجيا خطراً من حدوث ذلك حتى قبل عام 2030. وقد أشار إلى أن الذكاء الاصطناعي المستقبلي يمكن أن يتفوق على المخترقين البشر بسرعة كبيرة ويحول الصناعات ويحصل على وصول إلى الموارد المالية.

موظفو Anthropic يضعون رقماً على خطر الانقراض بينما تدفع مختبرات الذكاء الاصطناعي نحو أنظمة ذاتية التحسين

رد إيفان بأن تحذير جاكوب صحيح وقال إن Anthropic تفتقر إلى طريقة للحفاظ على محاذاة الذكاء الاصطناعي الفائق مع الأهداف البشرية.

"جاكوب صحيح هنا - نحن نؤمن حقاً بأن الذكاء الاصطناعي يمكن أن يقتل جميع البشر! أعتقد شخصياً أن الاحتمال >10% خلال العقد القادم. أعتقد أن Anthropic تبذل قصارى جهدها، لكننا لا نملك بعد خطة لحل محاذاة الذكاء الاصطناعي الفائق وليس لدينا مسار واضح للقيام بذلك"، كتب إيفان.

قال إيفان لاحقاً إن الخطر من النماذج الحالية "منخفض". قلقه هو التحسين الذاتي التكراري، حيث يقوم النظام بترقية قدراته بشكل متكرر بمساعدة بشرية قليلة. هذه القدرة غير موجودة بعد، على الرغم من أن مختبرات الذكاء الاصطناعي تعمل نحوها. قال إن ظهور الذكاء الاصطناعي الفائق من خلال هذه العملية يتحرك أسرع من المتوقع.

قدمت Anthropic تحذيراً مماثلاً في يونيو. قالت إن "التحسين الذاتي التكراري الكامل قد يزيد أيضاً من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي". أضافت الشركة: "إذا كانت الأنظمة قادرة على بناء خلفائها بالكامل، فإن الطرق التي نؤمّن بها هذه الأنظمة ونراقبها ونشكل سلوكها تصبح أكثر أهمية بكثير".

ترفع Anthropic و OpenAI أموالاً بينما تتحرك نحو الطروحات العامة المتوقعة. لم ترد أي من الشركة على الفور عندما طلبت CNBC تعليقاً.

إيلون ماسك، الرئيس التنفيذي لشركة Tesla (NASDAQ: TSLA) و SpaceX (SPCX)، حذر منذ سنوات من أن الذكاء الاصطناعي قد يهدد البشرية. رفع باحثون وأكاديميون مخاوف مماثلة بشأن فقدان الشركات السيطرة.

ارتفعت هذه المخاوف مرة أخرى بعد أن اخترق نموذج OpenAI منصة Hugging Face، وهي منصة لمطوري المصدر المفتوح، في يوليو. وصف جيكوب حوادث مثل ذلك بأنها "طلقات تحذيرية" وقال إنها تجعل الاتفاقيات بين المختبرات الأمريكية أكثر واقعية. جعله ذلك أكثر تفاؤلاً بشأن التنسيق الأمريكي، لكنه لا يزال يتوقع أن سباق الذكاء الاصطناعي العالمي سيكون صعب الإيقاف.

"لا أشعر أننا على المسار الصحيح لمنع سباق عالمي، قد يتطلب إجراءات مكلفة مثل حظر مؤقت لتحسين قدرات النموذج"، قال جاكوب.

تحسينات Claude في البرمجة تغير كيفية اختبار Anthropic للبرمجيات ومراجعة عمل مهندسيها

أعلنت أنثروبيك أن كلود أكمل 76% من أصعب مهامه المفتوحة في مايو 2026، بزيادة قدرها 50 نقطة مئوية خلال ستة أشهر.

بدأت إحدى الأمثلة عندما تسبب ترقية روتينية في تعطل عشرات الآلاف من مهام التدريب. قدم المهندسون لكلود سياقاً مكتوباً ووصولاً إلى مجموعة الحوسبة المباشرة.

تحقق كلود من المهام الجارية، واختبر إعداد بيئة واحد في كل مرة، وتتبع العطل إلى معلمة تصحيح أخطاء غامضة. أعاد إنشاء المشكلة، وأثبت السبب، وأكد وجود حل في حوالي ساعتين. وذكرت أنثروبيك أن العمل نفسه كان سيستغرق عادةً من مهندس بشري يومين إلى ثلاثة أيام.

تقيس الشركة أيضاً ما إذا كان Claude يمكنه كتابة كود يفهمه مهندس آخر ويبني عليه. لا يتفق الموظفون تماماً على المقارنة. اعتقد الكثيرون أن كود Claude كان دون مستوى العمل البشري في Anthropic في أواخر عام 2025. تقول الشركة الآن إن الجودة متساوية تقريباً وتتوقع أن يتقدم Claude خلال عام.

لقد غيّر هذا التقدم عملية المراجعة الداخلية لأنثروبيك. يتم الآن فحص التغييرات المقترحة في الكود بواسطة مراجع كلود الآلي قبل الدمج. يقوم بفحص الأخطاء والثغرات الأمنية والعيوب الأخرى.

وجد اختبار استعادي أن مراجعة كل التغييرات السابقة بهذه الطريقة كانت ستلتقط حوالي ثلث الأخطاء الكامنة وراء حوادث كلود السابقة قبل الإنتاج. وذكرت أنثروبيك أن الكود الأصلي جاء من مهندسين وصفتهم بأنهم من الأفضل في العالم في بناء هذه الأنظمة، ومع ذلك وجد كلود أخطاء فاتتهم.

صاغت أنثروبيك المقارنة على هذا النحو: "كان الكود المكتوب بواسطة كلود أسوأ قليلاً من الكود المكتوب بواسطة البشر في أنثروبيك في أواخر عام 2025، وهو الآن في مستوى التكافؤ تقريباً، ونتوقع أن يكون أفضل بشكل قاطع خلال العام".