الملك تشارلز يحذر من التحكم في الذكاء الاصطناعي قبل أن يطور 'قدرات أكثر ظلاماً' لأخذ الحياة

أثناء قمة استضافتها اسكتلندا، قال الملك تشارلز الثالث لرؤساء أكبر شركات الذكاء الاصطناعي في العالم إن عليهم إيجاد طرق للحفاظ على التكنولوجيا تحت السيطرة البشرية. 

حذر الملك من أن الأشخاص الذين بنوها يخشون الآن أنها قد تطور "قدرات أكثر ظلاماً" وحتى تُستخدم للقتل. 

ماذا يقول الملك تشارلز الثالث عن الذكاء الاصطناعي؟ 

الملك تشارلز الثالث تحدث في Dumfries House في شرق إيرشاير، وهي تجمع نظمه مؤسسة Ditchley وجذب حوالي 30 من التنفيذيين والمسؤولين والباحثين، بما في ذلك وزير الذكاء الاصطناعي البريطاني Kanishka Narayan، والرئيس التنفيذي لشركة Nvidia Jensen Huang، والمؤسس المشارك لـ DeepMind Demis Hassabis، والرئيس المالي لـ OpenAI Sarah Friar، ورئيس الشؤون العالمية في Anthropic Tino Cuéllar.

قائمة الضيوف الخاصة التي راجعتها Bloomberg تضمنت أيضاً أسماء مثل رئيس MI6 Blaise Metreweli، والكاتب Yuval Noah Harari، و Xue Lan من جامعة Tsinghua.

تحدث تشارلز، البالغ من العمر 77 عاماً، لمدة 20 دقيقة فقط قبل مغادرة الغرفة لما يأمل أن يكون محادثات مثمرة. أولئك الذين يقدرون الجوهر الأخلاقي للبشرية، قال, "يبحثون بقلق عن طمأنتكم بأننا لن نفقد السيطرة على مصيرنا، أو أرواحنا."

وصف تشارلز وتيرة التكنولوجيا بأنها "مثيرة للاهتمام ومقلقة بعمق على حد سواء". أقر وأثنى على سجلها في الطب وعلوم الحياة، قبل طرح سؤال صريح: "بالتأكيد، نحتاج إلى وسائل كافية للتحكم قبل أن يكون ذلك متأخراً جداً؟"

استشهد الملك بمخاطر صناعي تقنية الذكاء الاصطناعي في تحذيره. كما قال إن الأنظمة تخاطر بـ "تطوير قدرات أكثر ظلاماً، ربما حتى لأخذ الحياة". هو أضاف أن على التنفيذيين النظر في "المخاطر الوجودية" لسقوط الأدوات في الأيدي الخاطئة. 

أرسل تشارلز سابقاً رسالة فيديو إلى قمة سلامة الذكاء الاصطناعي في المملكة المتحدة لعام 2023 في Bletchley Park، معرباً عن مشاعر مماثلة. 

كان مستشار الفاتيكان للذكاء الاصطناعي Paolo Benanti حاضراً في القمة، وكتب البابا ليون الرابع عشر في رسالة حلقيّة في مايو أن الذكاء الاصطناعي يجب ألا يبقى في أيدي "قليل من الناس."

هل سيتباطأ تطوير الذكاء الاصطناعي؟ 

قال Hassabis للمندوبين إن الذكاء الاصطناعي العام - الأنظمة التي يمكنها مطابقة البشر أو التفوق عليهم في العديد من المهام - "على الأرجح على بعد بضع سنوات قليلة فقط." 

قال إن التكنولوجيا يمكن أن يكون لها تأثير محتمل أكبر بعشر مرات من الثورة الصناعية. وأضاف أن احتمالات حدوث خطأ ما هي "صفر بالتأكيد غير صفر"، على الرغم من أنه تابع قائلاً "المستقبل لم يُكتب بعد."

قالت Friar إن القوة المتزايدة للتكنولوجيا تثير أسئلة حول إبقائها في خدمة الناس، وأن "أي شركة أو حكومة لا يمكنها القيام بذلك بمفردها." 

قال Huang، الذي تبلغ قيمة Nvidia لديه ما يقرب من 5.15 تريليون دولار، للغرفة أن السلامة هي الأولوية القصوى ويجب تأجيل المنتج إذا لم يكن جاهزاً. دافع عن تنظيم منتجات الذكاء الاصطناعي بدلاً من التكنولوجيا نفسها ودافع عن النماذج المفتوحة كوسيلة لمنع الدول الصغيرة والباحثين من الإقصاء.

يأتي القمم بعد نشر باحث في أنثروبيك، جاكوب كوكسون، لمنشور استقالته viral، وتوقع زميله إيفان هوبينغر بأن الذكاء الاصطناعي لديه فرصة بنسبة 10% التسبب في انقراض البشرية، مما أثار مخاوف.

أبلغت Cryptopolitan بأن داريو أمودي من أنثروبيك نشر مقالاً يحث فيه المختبرات على "ضبط وتيرة التطور"، وأن OpenAI هذا الأسبوع أطلقت نظاماً سيكشف عن سوء سلوك النماذج بعد تسجيل ست حالات من السلوك المثير للقلق. 

ومع ذلك، لا يوافق الجميع على أن الخطر حقيقي: فقد وصف الرئيس دونالد ترامب هذه المخاوف بأنها "خدعة".