يقول رئيس قسم سلامة الذكاء الاصطناعي في شركة أنثروبيك إن هناك احتمالاً يزيد عن 10% لإبادة البشرية
- يقول إيفان هوبينجر من شركة أنثروبيك إن الذكاء الاصطناعي لديه فرصة تزيد عن 10٪ للقضاء على البشرية في العقد القادم.
- استقال جاكوب كوكسون من شركة أنثروبيك وقال إن مختبرات الذكاء الاصطناعي الكبرى تخاطر بمخاطر خطيرة من خلال الذكاء الخارق الذي يطور نفسه بنفسه.
- تقول شركة أنثروبيك إن كلود حقق معدل نجاح بنسبة 76٪ في أصعب مهامه المفتوحة في مايو 2026.
يقول إيفان هوبينجر، رئيس قسم العلوم في مجال التوافق البشري، إن الذكاء الاصطناعي لديه فرصة تزيد عن 10٪ للقضاء على البشرية في العقد القادم.
جاء تقديره يوم الثلاثاء، بعد ساعات من إعلان الباحث جاكوب كوكسون استقالته من شركة أنثروبيك، واتهامه أنثروبيك وأوبن إيه آي بالمجازفة بشكل غير مقبول في سعيهما وراء أنظمةtronقوة. وكتب جاكوب على موقع إكس: "إنهم يتسابقون مباشرةً نحو الذكاء الخارق ذاتي التطوير، ويقامرون بحياتنا"
بحسب جاكوب، فإن أولئك الذين يطورون هذه التقنية يرون خطر حدوث ذلك حتى قبل عام 2030. وقد أشار إلى أن الذكاء الاصطناعي المستقبلي يمكن أن يتفوق على المتسللين البشريين بسرعة كبيرة ويغير الصناعات ويحصل على التمويل والموارد.
قام فريق عمل أنثروبيك بتقدير خطر الانقراض مع سعي مختبرات الذكاء الاصطناعي نحو أنظمة ذاتية التحسين
أجاب إيفان بأن تحذير جاكوب كان صحيحاً وقال إن أنثروبيك تفتقر إلى طريقة للحفاظ على توافق الذكاء الخارق مع الأهداف البشرية.
كتب إيفان: "جاكوب محقٌّ هنا، فنحن نؤمن حقًا أن الذكاء الاصطناعي قد يقضي على البشرية جمعاء! أعتقد شخصيًا أن نسبة حدوث ذلك ستتجاوز 10% خلال العقد القادم. أعتقد أن شركة أنثروبيك تبذل قصارى جهدها، لكننا لا نملك حتى الآن خطة لحل معضلة التوافق من أجل الذكاء الخارق، ولسنا على tracالصحيح لتحقيق ذلك".
قال إيفان لاحقًا إن الخطر الناجم عن النماذج الحالية "منخفض". ويكمن قلقه في التحسين الذاتي المتكرر، حيث يقوم النظام بترقية قدراته باستمرار دون تدخل بشري يُذكر. هذه القدرة غير موجودة بعد، على الرغم من أن مختبرات الذكاء الاصطناعي تعمل على تطويرها. وأضاف أن الذكاء الخارق الناشئ من خلال هذه العملية يتطور بوتيرة أسرع من المتوقع.
أصدرت شركة أنثروبيك تحذيراً مماثلاً في يونيو/حزيران، حيث ذكرت أن "التحسين الذاتي المتكرر الكامل قد يزيد من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي". وأضافت الشركة: "إذا كانت الأنظمة قادرة على بناء أنظمة خلفاء لها بالكامل، فإن الطرق التي نؤمن بها هذه الأنظمة، ونراقبها، ونوجه سلوكها، تصبح جميعها أكثر أهمية"
تجمع شركتا أنثروبيك وأوبن إيه آي الأموال تمهيداً لإدراج أسهمهما في البورصة. ولم ترد أي من الشركتين على الفور عندما طلبت قناة سي إن بي سي التعليق.
حذر إيلون ماسك، الرئيس التنفيذي لشركتي تسلا (NASDAQ: TSLA) وسبيس إكس (SPCX)، لسنوات من أن الذكاء الاصطناعي قد يهدد البشرية. وقد أثار الباحثون والأكاديميون مخاوف مماثلة بشأن فقدان الشركات السيطرة.
تجددت تلك المخاوف بعد OpenAI لمنصة Hugging Face، وهي منصة تطوير مفتوحة المصدر، في يوليو/تموز. وصف جاكوب حوادثdentبأنها "إنذارات" وقال إنها تجعل الاتفاقيات بين المختبرات الأمريكية أكثر واقعية. وقد زاد ذلك من تفاؤله بشأن التنسيق الأمريكي، لكنه لا يزال يتوقع صعوبة إيقاف سباق الذكاء الاصطناعي العالمي.
قال جاكوب: "لا أشعر بأننا على tracالصحيح لمنع سباق عالمي، الأمر الذي قد يتطلب إجراءات مكلفة مثل الحظر المؤقت على تحسين قدرات النماذج".
تُغير مكاسب كلود في مجال البرمجة طريقة اختبار شركة أنثروبيك للبرمجيات ومراجعة عمل مهندسيها
وقالت شركة أنثروبيك إن كلود أنجز 76% من أصعب الوظائف المفتوحة في مايو 2026، بزيادة قدرها 50 نقطة مئوية في ستة أشهر.
بدأت إحدى الأمثلة عندما تسبب تحديث روتيني في تعطل عشرات الآلاف من مهام التدريب. قام أحد المهندسين بتزويد كلود بسياق مكتوب ومنحه إمكانية الوصول إلى مجموعة الحوسبة الحية.
قام كلود بفحص المهام الجارية، واختبر إعدادات البيئة واحدة تلو الأخرى، tracسبب العطل إلى علامة تصحيح أخطاء غامضة. أعاد البرنامج إنتاج المشكلة، وأثبت سببها، وأكد وجود حل في غضون ساعتين تقريبًا. وذكرت شركة أنثروبيك أن العمل نفسه يستغرق عادةً من مهندس بشري من يومين إلى ثلاثة أيام.
تقيس الشركة أيضًا قدرة كلود على كتابة كود يفهمه مهندس آخر ويبني عليه. ولا يتفق الموظفون تمامًا على هذه المقارنة. فقد اعتقد الكثيرون أن كود كلود كان أقل من مستوى العمل البشري في شركة أنثروبيك أواخر عام ٢٠٢٥. وتقول الشركة الآن إن الجودة متقاربة وتتوقع أن يتقدم كلود في غضون عام.
أدى هذا التقدم إلى تغيير عملية المراجعة الداخلية في شركة أنثروبيك. تُفحص الآن التغييرات المقترحة على الشفرة البرمجية بواسطة نظام مراجعة آلي يُدعى كلود قبل دمجها، حيث يقوم النظام بفحصها بحثًا عن الأخطاء البرمجية، ونقاط الضعف الأمنية، وغيرها من العيوب.
أظهر اختبار استرجاعي أن مراجعة كل تغيير سابق بهذه الطريقة كانت ستكشف نحو ثلث الأخطاء التي تسببت في حوادث Claude السابقة قبلdentالمنتج. وقالت شركة Anthropic إن الكود الأصلي جاء من مهندسين وصفتهم بأنهم من بين الأفضل في العالم في بناء هذه الأنظمة، ومع ذلك فقد اكتشف Claude أخطاءً لم يلاحظوها.
وقد وضعت شركة أنثروبيك المقارنة على النحو التالي: "كان الكود المكتوب بواسطة كلود أسوأ إلى حد ما من الكود المكتوب بواسطة البشر في أنثروبيك في أواخر عام 2025، وهو الآن على قدم المساواة تقريبًا، ونتوقع أن يكون أفضل بكثير في غضون عام."
إذا كنت تقرأ هذا، فأنت متقدم بالفعل. ابقَ متقدماً من خلال نشرتنا الإخبارية.
جاي حامد
تُغطي جاي حامد منذ ست سنوات مجالات العملات الرقمية، وأسواق الأسهم، والتكنولوجيا، والاقتصاد العالمي، والأحداث الجيوسياسية المؤثرة على الأسواق. وقد عملت مع منشورات متخصصة في تقنية البلوك تشين، مثل AMB Crypto وCoin Edition وCryptoTale، حيث قدمت تحليلات سوقية، وتطرقت إلى الشركات الكبرى، واللوائح التنظيمية، والاتجاهات الاقتصادية الكلية. درست جاي في كلية لندن للصحافة، وشاركت ثلاث مرات برؤى حول سوق العملات الرقمية على إحدى أبرز الشبكات التلفزيونية في أفريقيا.
