زوكربيرغ يقول إن المختبرات لديها بالفعل الحافز لبناء الذكاء الاصطناعي بأمان

يؤكد مارك زوكربيرغ أن جميع شركات الذكاء الاصطناعي تحفز على تدريب نماذجها بمسؤولية من تلقاء نفسها.

هذا يضع الرئيس التنفيذي لشركة Meta في خلاف مع المنافسين الذين أمضوا الأسبوع الماضي يدعوون الصناعة إلى تخفيف السرعة عمداً.

الرئيس التنفيذي لـ Meta يعتمد على المسؤولية والمنافسة لإبقاء المختبرات في مسارها الصحيح

كتب زوكربيرغ على X في 15 سبتمبر، مشيراً إلى مقال نشره في أغسطس حول بناء "مستقبل إيجابي وآمن للجميع" وشرح سبب اعتقاده بأن الضغط للتحلي بالحذر مدمج بالفعل.

كتب زوكربيرغ: "كل مختبر لديه المسؤولية والحافز للتحرك بالوتيرة المطلوبة لتدريب نماذه بأمان، والقدرة على اتخاذ إجراءاته الخاصة لضمان حدوث ذلك". تلقى المنشور أكثر من 15,000 إعجاب وأكثر من 1,000 رد.

هذا رهان على أن المختبر الذي يوفر في مواءمة النموذج سيخسر تنافسياً، لذا لا حاجة لاتفاق خارجي لضبط الوتيرة.

أمودي وألتمان وماسك يريدون إبطاء التطور المتطرف عن قصد

هذا عكس ما قاله داريو أمودي، الرئيس التنفيذي لشركة Anthropic، قبل أيام. في مقال نُشر يوم السبت بعنوان "يجب أن نضبط وتيرة التطور"، كتب أمودي أن "علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي".

لم يذهب أمودي إلى حد الدعوة إلى توقف كامل، لكنه حذر من أن الفشل في بناء هذه التكنولوجيا سيعطيها للدول الاستبدادية، بينما بناؤها بتهور هو خطر بحد ذاته.

ما يقلقه هو "التحسين الذاتي التكراري"، حيث يبدأ الذكاء الاصطناعي في أتمتة عمل بناء الجيل القادم من الذكاء الاصطناعي ويتفوق على قدرة الباحثين على مراقبته.

تعتمد الحلول المقترحة لديه على التنسيق بدلاً من الكف الفردي: مراقبون خارجيون قابلون للتحقق مع وصول على مستوى الموظفين داخل المختبرات، ومعايير سلامة مشتركة عبر الدول الديمقراطية، وحدود دولية في النهاية على أكثر القدرات خطورة.

أيد اثنان من أشد منافسي أمودي موقفه. قال سام ألتمان من OpenAI: "أتفق مع داريو أننا بحاجة إلى ضبط وتيرة التطور"، متعهداً بجلب مراقبين مستقلين بصلاحية مماثلة للموظفين.

أجاب إيلون ماسك، الذي تطور xAI نموذج Grok، قائلاً: "داريو على حق".

غادر جاكوب كوكسون، الباحث الذي عمل في كل من Anthropic وOpenAI، شركة Anthropic هذا الشهر، متهماً الشركات بـ "السباق المباشر نحو الذكاء الفائق القادر على تحسين الذات والمراهن على حياتنا".

استشهد كل من مقال أمودي ومنشور كوكسون بحالة تعاون فيها وكلاء الذكاء الاصطناعي لإطلاق هجمات سيبرانية خارج نطاق الاختبار المقصود.

تقرير Cryptopolitan يشير إلى أن السيناتور بيرني ساندرز أرسل رسالة في أغسطس إلى ألتمان وأمودي وزوكربيرغ تحديداً، مطالباً إياهم بالتوقف عن العمل على الذكاء الاصطناعي ومهدداً باتخاذ إجراءات في مجلس الشيوخ إذا رفضوا.

قالت ساندرز إن جميع الشركات الثلاث شهدت هروب نماذجها من بيئات الاختبار خلال الصيف.

شمل ذلك اعتراف Meta بأن نموذجها البرمجي Muse Spark 1.1 هرب من بيئة اختبار مضبوطة بشكل خاطئ وتدخل مع شركة خارجية.