المملكة المتحدة تتخذ موقفاً استباقياً بشأن سلامة الذكاء الاصطناعي وسط مخاوف من المخاطر الوجودية

في تغيير ملحوظ في الموقف، تتخذ المملكة المتحدة بنشاط إجراءات لمواجهة التهديدات المحتملة المرتبطة بالذكاء الاصطناعي (AI). كشف رئيس الوزراء ريشي سوناك عن خطط لمؤتمر دولي لسلامة الذكاء الاصطناعي، مشدداً على ضرورة معالجة هذه التهديدات. يأتي هذا التحول بعد ورقة بيضاء سابقة حول الذكاء الاصطناعي، والتي وصفت في الربيع المخاطر الوجودية المرتبطة بالذكاء الاصطناعي بأنها ذات "تأثير عالي واحتمال منخفض".

يعزى التغيير في المنظور جزئياً إلى تأثير حركة الإيثار الفعال (EA)، وهي مجموعة من قادة الفكر الذين يدافعون عن سلامة الذكاء الاصطناعي، وغالباً ما يدعمهم شخصيات بارزة في صناعة التكنولوجيا.

الإيثار الفعال: الدعوة لنهج يركز على المستقبل

كانت حركة الإيثار الفعال حاسمة في تشكيل موقف المملكة المتحدة بشأن سلامة الذكاء الاصطناعي. rooted في جامعة أكسفورد ومحفزة بدعم من عمالقة وادي السيليكون. يؤمن أتباع EA أن الذكاء الاصطناعي فائق الذكاء، إذا لم يتم إدارته بشكل مناسب، يمكن أن يشكل تهديداً وجودياً للبشرية. 

يركز نهجهم على الاعتبارات طويلة المدى بدلاً من المخاوف الفورية،/asserting أن السعي وراء الذكاء الاصطناعي فائق الذكاء يجب أن يتقدم بحذر لا يتزعزع. بالنسبة لهم، النتائج المحتملة لتطوير الذكاء الاصطناعي ثنائية: إما يوتوبيا أو إبادة. اكتسب هذا المنظور زخماً في المملكة المتحدة، حيث اتفق مستشارو الحكومة مع مخاوف EA وارتباطات سوناك الوثيقة بمختبرات الذكاء الاصطناعي المرتبطة بالحركة.

تحذير إيان هوجارث يحفز العمل

كانت اللحظة المحورية في هذا التحول عندما كتب مستثمر التكنولوجيا إيان هوجارث مقالاً viralاً في صحيفة فاينانشال تايمز في أبريل، منبهًا إلى سباق نحو "الذكاء الاصطناعي الإلهي" وإمكانية إحداث زوال أو تدمير البشرية. صدى مقاله مشاعر "رسالة إيقاف الذكاء الاصطناعي" المؤثرة، التي دعت إلى وقف مؤقت للتجارب واسعة النطاق للذكاء الاصطناعي.

بالاقتران مع رسالة أخرى تقترح أن الذكاء الاصطناعي يشكل خطر انقراض، هذا أشعل مناقشات واسعة النطاق ودفع رئيس الوزراء سوناك للتعبير عن قلقه بشأن هذه المخاطر.

تأثير الإيثار الفعال على فريق عمل سلامة الذكاء الاصطناعي في المملكة المتحدة

بقيادة إيان هوجارث، أعلن فريق عمل النماذج الأساسية في المملكة المتحدة عن شراكات جديدة، عدد كبير منها مرتبط بحركة الإيثار الفعال. بشكل ملحوظ، مركز سلامة الذكاء الاصطناعي، المعروف بـ "رسالة خطر انقراض الذكاء الاصطناعي"، يتلقى التمويل الأساسي من Open Philanthropy، وهي منظمة مانحة رئيسية لـ EA. Arc Evals، التي لديها مخاطر كارثية محتملة لأنظمة الذكاء الاصطناعي، هي شريك آخر تدعمه مانحوا EA. 

مشروع ذكاء المجتمع، الذي يركز على نماذج الحوكمة للتكنولوجيا التحويلية، مرتبط أيضاً بمجتمع EA. يشمل فريق البحث في فريق العمل البروفيسور ديفيد كروجر من كامبريدج، الذي تلقى منحة كبيرة من Open Philanthropy لتقليل خطر انقراض البشر بسبب أنظمة الذكاء الاصطناعي.

سلامة الذكاء الاصطناعي والنماذج الحدودية

فريق العمل، الذي أعيدت تسميته الآن إلى "فريق عمل الذكاء الاصطناعي الحدودي"، يوسع تركيزه لمعالجة مخاطر الذكاء الاصطناعي الناشئة بما يتجاوز الأفق الفوري. يهدف إلى إدارة المخاطر والاستفادة من فوائد التكنولوجيا للمجتمع. ومع ذلك، فقد لاقى هذا التغيير في المنظور انتقادات من بعض الأوساط. 

يجادل الباحثون وخبراء أخلاقيات الذكاء الاصطناعي بأن التركيز على المخاطر الوجودية قد طغى على المخاوف العاجلة مثل التحيز، وخصوصية البيانات، وقضايا حقوق النشر في نماذج الذكاء الاصطناعي اليوم. يعبرون عن قلقهم من أن مناقشات سلامة الذكاء الاصطناعي أصبحت متطرفة وتفتقر إلى الأدلة التجريبية.

تقاطع الإيثار الفعال، عمالقة التكنولوجيا، والسياسة

الروابط القوية لحركة EA بوادي السيليكون تثير تساؤلات حول موضوعيتها. لدى مختبرات الذكاء الاصطناعي الرئيسية مثل OpenAI وDeepMind وAnthropic روابط مع EA، حيث تؤثر أيديولوجيتها على قيمهم وقراراتهم. 

قدمت Open Philanthropy، التي أسسها مؤسس فيسبوك داستين موسكوفيتز، تمويلاً أولياً كبيراً لـ OpenAI. كان مؤسس Skype جان تالين مستثمراً مبكراً ومديراً سابقاً في DeepMind. إيلون ماسك، الذي يدعم "الأيديولوجية طويلة المدى" المتعلقة بـ EA، وظف دان هيندريكس، مدير مركز سلامة الذكاء الاصطناعي، كمستشار لبدء تشغيله الجديد، xAI.

الدعم المالي لـ EA لسلامة الذكاء الاصطناعي

لمواجهة التهديدات المتصورة، توجه حركة EA موارد كبيرة نحو سلامة الذكاء الاصطناعي. هارولد كارنوفسكي، رئيس Open Philanthropy، قد انسحب مؤقتاً للتركيز على سلامة الذكاء الاصطناعي. ينصح مركز نصائح وظائف EA، 80,000 ساعة، بأبحاث سلامة الذكاء الاصطناعي التقنية وتشكيل حوكمة الذكاء الاصطناعي المستقبلية كخيارات وظيفية عليا لـ EA. يرتبط هذا الدعم بمفردات فريدة، بما في ذلك مصطلحات مثل "المخاطر الوجودية" و"احتمالية الدمار"، مما يميز EA في مناقشات سلامة الذكاء الاصطناعي.

بينما تكتسب جدول أعمال سلامة الذكاء الاصطناعي في المملكة المتحدة زخماً، يحذر بعض الخبراء من إهمال التحديات الفورية المتعلقة بالذكاء الاصطناعي مثل التحيز، وخصوصية البيانات، والاعتبارات الأخلاقية. يجادلون بأن التركيز على المخاطر الوجودية قد طغى على هذه القضايا العاجلة. يعبر النقاد أيضاً عن قلقهم من أن قرب الحركة من شركات الذكاء الاصطناعي قد يؤدي إلى الاستيلاء التنظيمي، حيث تمارس الصناعة تأثيراً غير مبرر على صنع السياسات.

نظام بيئي معقد: دور EA في تشكيل سياسة الذكاء الاصطناعي

لا يمكن إنكار تأثير حركة الإيثار الفعال في تشكيل جدول أعمال سلامة الذكاء الاصطناعي في المملكة المتحدة. rooted في الأكاديميا ومدعومة من وادي السيليكون، فقد نجحت في دفع المخاطر الوجودية إلى الأضواء. ومع ذلك، بينما تتنقل المملكة المتحدة في هذا المشهد المعقد، يجب على صانعي السياسات الموازنة بين مخاوف سلامة الذكاء الاصطناعي طويلة المدى والتحديات الأخلاقية والقانونية والمجتمعية الفورية التي تطرحها تقنيات الذكاء الاصطناعي اليوم.

يعكس النهج الاستباقي للمملكة المتحدة تجاه سلامة الذكاء الاصطناعي المشهد المتطور لتطوير الذكاء الاصطناعي. بينما لعب الإيثار الفعال ومنظوره طويل المدى دوراً محورياً في هذا التحول، تواجه المملكة المتحدة تحدي تحقيق التوازن بين معالجة المخاطر الوجودية وإدارة الآثار الأخلاقية والمجتمعية للذكاء الاصطناعي في الوقت الحاضر. مع اقتراب موعد المؤتمر الدولي لسلامة الذكاء الاصطناعي، يتبقى أن نرى كيف ستتعامل المملكة المتحدة مع هذه المياه المعقدة وستساهم في تشكيل مستقبل الذكاء الاصطناعي على النطاق العالمي.