فائزون بجائزة نوبل ينضمون إلى السياسيين والعلماء في نداء عاجل لاحتواء الاستخدامات الخطرة للذكاء الاصطناعي

تم تصعيد الحملة لدفع الحكومات إلى الاتفاق على حدود دولية ملزمة لاحتساء إساءة استخدام تكنولوجيا الذكاء الاصطناعي إلى مستوى الأمم المتحدة، حيث أصدر أكثر من 200 من كبار السياسيين والعلماء وصناع الفكر، بمن فيهم 10 فائزين بجائزة نوبل، تحذيراً بشأن مخاطر التكنولوجيا.

يُطلق على البيان، الذي صدر يوم الاثنين في افتتاح الأسبوع عالي المستوى للجمعية العامة للأمم المتحدة، اسم "النداء العالمي لخطوط حمراء للذكاء الاصطناعي". ويجادل بأن "المسار الحالي للذكاء الاصطناعي يقدم مخاطر غير مسبوقة"، ويطلب من الدول العمل نحو اتفاق دولي على قيود واضحة وقابلة للتحقق بحلول نهاية عام 2026.

فائزون بجائزة نوبل يقودون مناشدة في الأمم المتحدة

تم الكشف عن المناشدة من قبل الحاصلة على جائزة نوبل للسلام والصحفية ماريا ريسا، التي استخدمت خطاب الافتتاح لدفع الحكومات إلى "منع المخاطر غير المقبولة عالمياً" وتحديد ما لا ينبغي أبداً السماح للذكاء الاصطناعي بفعله.

يشمل الموقعون على البيان حائزين على جائزة نوبل في الكيمياء والاقتصاد والسلام والفيزياء، إلى جانب مؤلفين مشهورين مثل ستيفن فراي ويوval Noah Harari. كما قدم الرئيس الأيرلندي السابق ماري روبنسون والرئيس الكولومبي السابق خوان مانويل سانتوس، الذي هو أيضاً حاصل على جائزة نوبل للسلام، أسماءهم.

جيفري هينتون ويوشوا بنجيو، المعروفان شعبياً بـ "آباء الذكاء الاصطناعي" وفائزان بجائزة تورنغ، والتي تعتبر على نطاق واسع جائزة نوبل في علوم الكمبيوتر، أضافا أيضاً توقيعاتهما إلى البيان.

"هذا نقطة تحول"، قال هاراري. "يجب على البشر الاتفاق على خطوط حمراء واضحة للذكاء الاصطناعي قبل أن تعيد التكنولوجيا تشكيل المجتمع بما يتجاوز فهمنا وتدمر أسس إنسانيتنا".

غالباً ما ركزت الجهود السابقة لتحذير الناس من الذكاء الاصطناعي على الالتزامات الطوعية من قبل الشركات والحكومات. في مارس 2023، دعا أكثر من 1,000 من قادة التكنولوجيا، بما في ذلك إيلون ماسك، إلى وقف تطوير أنظمة الذكاء الاصطناعي القوية. وبعد بضعة أشهر، وقع مسؤولو الذكاء الاصطناعي مثل سام ألتمان من OpenAI وديميس هاسابيس من Google DeepMind بياناً موجزاً يعادل المخاطر الوجودية للذكاء الاصطناعي بمخاطر الحرب النووية والأوبئة.

الذكاء الاصطناعي يثير مخاوف من مخاطر وجودية ومجتمعية

في الأسبوع الماضي فقط، تورط الذكاء الاصطناعي في قضايا تتراوح من انتحار مراهق إلى تقارير عن استخدامه في التلاعب بالجدال العام.

الموقعون على النداء يجادلون بأن هذه المخاطر المباشرة قد تتجاوزها قريباً تهديدات أكبر. حذر المعلقون من أن أنظمة الذكاء الاصطناعي المتقدمة يمكن أن تؤدي إلى البطالة الجماعية، أو الأوبئة المهندسة، أو انتهاكات منهجية لحقوق الإنسان إذا تركت دون رقابة.

تشمل بعض البنود في القائمة المحظورة حظر الأسلحة الذاتية القاتلة، ومنع أنظمة الذكاء الاصطناعي ذاتية التكاثر، وضمان عدم نشر الذكاء الاصطناعي أبداً في الحروب النووية.

"من مصلحةنا المشتركة الحيوية منع الذكاء الاصطناعي من إلحاق أضرار جسيمة وغير قابلة للتعويض محتملاً بالبشرية، ويجب علينا التصرف وفقاً لذلك"، قال أحمد أوزومجو، المدير العام السابق لمنظمة حظر الأسلحة الكيميائية، التي فازت بجائزة نوبل للسلام في عام 2013 تحت قيادته.

وقعت أكثر من 60 منظمة من المجتمع المدني على الرسالة، بما في ذلك مركز الأبحاث البريطاني Demos ومعهد بكين لسلامة الذكاء الاصطناعي والحوكمة. يتم تنسيق الجهد من قبل ثلاث منظمات غير ربحية: مركز الذكاء الاصطناعي المتوافق مع الإنسان في جامعة كاليفورنيا، بيركلي؛ The Future Society؛ والمركز الفرنسي لسلامة الذكاء الاصطناعي.

وعلى الرغم من تعهدات السلامة الأخيرة من شركات مثل OpenAI وAnthropic، والتي وافقت على اختبار النماذج من قبل الحكومة قبل الإطلاق، تشير الأبحاث إلى أن الشركات تفي فقط بنحو نصف التزاماتها.

"لا يمكننا تحمل الانتظار"، قالت ريسا. "يجب أن نتصرف قبل أن يتقدم الذكاء الاصطناعي بما يتجاوز قدرتنا على التحكم فيه".