يحذر الملك تشارلز من ضرورة السيطرة على الذكاء الاصطناعي قبل أن يطور "قدرات أكثر ظلمة" لقتل الأرواح

خلال قمة استضافتها اسكتلندا، قال الملك تشارلز الثالث لرؤساء أكبر شركات الذكاء الاصطناعي في العالم إنه يجب عليهم إيجاد طرق لإبقاء التكنولوجيا تحت سيطرة الإنسان. 

حذر الملك من أن الناس الذين بنوها يخشون الآن أن تتطور فيها "قدرات أكثر ظلمة" وأن تتحول إلى أداة للقتل. 

ماذا يقول الملك تشارلز الثالث عن الذكاء الاصطناعي؟ 

تحدث الملك تشارلز الثالث في منزل دومفريز في شرق أيرشاير، وهو تجمع نظمته مؤسسة ديتشلي وجذب ما يقرب من 30 من المديرين التنفيذيين والمسؤولين والباحثين، بمن فيهم وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان، والرئيس التنفيذي لشركة إنفيديا جينسن هوانغ، والمؤسس المشارك لشركة ديب مايند ديميس هاسابيس، والمديرة المالية لشركة أوبن إيه آي سارة فراير، ورئيس الشؤون العالمية في شركة أنثروبيك تينو كويلار.

وبحسب ما ورد، تضمنت قائمة الضيوف الخاصة التي اطلعت عليها بلومبرج أسماءً مثل رئيس جهاز الاستخبارات البريطاني MI6 بليز مترويلي، والمؤلف يوفال نوح هراري، وشوي لان من جامعة تسينغهوا.

تحدث تشارلز، البالغ من العمر 77 عامًا، لمدة 20 دقيقة فقط قبل أن يغادر القاعة متوجهًا إلى ما كان يأمل أن تكون محادثات مثمرة. وقال"يسعون بشغف إلى طمأنتكم بأننا لن نفقد السيطرة على مصيرنا أو على أرواحنا".

وصف تشارلز وتيرة التكنولوجيا بأنها "مثيرة للاهتمام ومثيرة للقلق في آن واحد". وأقرّ بسجلها في الطب وعلوم الحياة وأشاد به، قبل أن يطرح سؤالاً صريحاً: "بالتأكيد، نحن بحاجة إلى وسائل كافية للسيطرة قبل فوات الأوان؟"

أشار الملك في تحذيره إلى مخاوف مطوري تقنية الذكاء الاصطناعي، وقال أيضاً إن هذه الأنظمة قد "تكتسب قدراتٍ أكثر خطورة، وربما تصل إلى حدّ إزهاق الأرواح". وأضاف أنه ينبغي على المسؤولين التنفيذيين أن يضعوا في اعتبارهم "المخاطر الوجودية" المترتبة على وقوع هذه الأدوات في الأيدي الخطأ. 

سبق أن أرسل تشارلز رسالة فيديو إلى قمة السلامة من الذكاء الاصطناعي لعام 2023 في بليتشلي بارك بالمملكة المتحدة، معرباً عن مشاعر مماثلة. 

كان باولو بينانتي، مستشار الفاتيكان لشؤون الذكاء الاصطناعي، حاضراً في القمة، وكتب البابا ليو الرابع عشر في رسالة بابوية في مايو أن الذكاء الاصطناعي يجب ألا يبقى في أيدي "قلة قليلة"

هل سيتباطأ تطور الذكاء الاصطناعي؟ 

قال هاسابيس للمندوبين إن الذكاء الاصطناعي العام - الأنظمة التي يمكنها أن تضاهي أو تتفوق على البشر في العديد من المهام - "ربما على بعد بضع سنوات قصيرة فقط" 

قال إن التكنولوجيا قد يكون لها تأثير محتمل يفوق تأثير الثورة الصناعية بعشرة أضعاف. وأضاف أن احتمالية حدوث خطأ ما "ليست معدومةdefi"، لكنه استدرك قائلاً: "المستقبل لم يُكتب بعد"

قال فراير إن القوة المتزايدة للتكنولوجيا تثير تساؤلات حول إمكانية إبقائها في خدمة الناس، وأنه "لا يمكن لأي شركة أو حكومة أن تفعل ذلك بمفردها" 

أكد هوانغ، الذي تُقدّر قيمة شركته "إنفيديا" بنحو 5.15 تريليون دولار، للحضور أن السلامة هي الأولوية القصوى، وأنه يجب تأجيل طرح أي منتج غير جاهز. ودعا إلى تنظيم منتجات الذكاء الاصطناعي بدلاً من تنظيم التكنولوجيا نفسها، ودافع عن النماذج المفتوحة كوسيلة لمنع استبعاد الدول الصغيرة والباحثين.

تأتي القمة بعد منشور استقالة انتشر على نطاق واسع من قبل الباحث الأنثروبي جاكوب كوكسون وتوقع زميله إيفان هوبينجر بأن الذكاء الاصطناعي لديه فرصة بنسبة 10٪ للتسبب في انقراض البشر، مما أثار مخاوف.

Cryptopolitan أن داريو أمودي من شركة Anthropic نشر مقالاً يحث فيه المختبرات على "مواكبة التطورات"، وأن OpenAI أطلقت هذا الأسبوع نظامًا من شأنه أن يكشف عن سوء سلوك النموذج بعد تسجيل ست حوادثdentالسلوك المقلق. 

ومع ذلك، لا يتفق الجميع على أن الخطر حقيقي: فقد وصفdent دونالد ترامب هذه المخاوف بأنها "خدعة"