مفوض الأمم المتحدة السامي لحقوق الإنسان، تورك، يحذر من أن الذكاء الاصطناعي المتقدم قد يهدد البشرية، ويضغط من أجل وضع "خطوط حمراء"

حذر فولكر تورك، المفوض السامي للأمم المتحدة لحقوق الإنسان، علنًا من أن قدرات الذكاء الاصطناعي تتطور إلى مرحلة تصبح فيها تهديدًا وجوديًا للبشرية، وذلك في اجتماع مجلس حقوق الإنسان في جنيف، في وقت سابق من اليوم، 7 سبتمبر.

حثّ ترك الحكومات على التحرك بسرعة لبناء آليات تحوط وكبح جماح مختبرات الذكاء الاصطناعي التي تتصدر السباق لقيادة تكنولوجيا الأنظمة المستقلة ومنعها من الخروج عن السيطرة وسط تصاعد الانتهاكاتdentالسلامة.

إنّ أكبر معضلة تواجه الجهاز التنفيذي للأمم المتحدة هي أن الأنظمة التي تتطور فيها تكنولوجيا الذكاء الاصطناعي تتطور بوتيرة أسرع من قدرة الأنظمة التي تديرها حالياً على trac. وقد أدى هذا النمو الجامح إلى تصعيد التهديدات لتتجاوز مجرد التضليل وفقدان الوظائف، لتشمل مجالات وجودية كالأمن والمساءلة والرقابة غير المقيدة على الأنظمة ذاتية التشغيل. 

مفوض الأمم المتحدة السامي لحقوق الإنسان يدعو إلى تحرك دولي عاجل 

أشار تورك إلى ضيق الوقت المتاح لتقييم قدرات الذكاء الاصطناعي كأساس لتأكيده على ضرورة اتخاذ إجراءات منسقة دولياً. كما لفت الانتباه إلى أن وتيرة واتجاه تقدم هذا المجال يقعان بشكل غير متناسب في أيدي مجموعة صغيرة من المديرين التنفيذيين والشركات التقنية. 

تورك حلاً للمخاطر التي أشار إليها. يتمثل بديله في أن تقوم الدول التي تتخذ منها شركات الذكاء الاصطناعي الرائدة مقراً لها، وتلك التي تسيطر على سلاسل التوريد الحيوية، برفع مستوى مسؤوليتها ووضع "خطوط حمراء" تحدد مدى استعدادها للسماح لهذه التقنية بالتطور.

يعيد المفوض السامي للأمم المتحدة لحقوق الإنسان النظر في موضوع تناولته الهيئة الدولية في أول حوار عالمي حول حوكمة الذكاء الاصطناعي في نفس المدينة السويسرية في يوليو. 

في كلمته أمام قمة الاتحاد الدولي للاتصالات "الذكاء الاصطناعي من أجل الخير"، حيث انطلقت هذه المناقشة، قال تورك، وفقًا لمقاطع فيديو للأمم المتحدة: "لا نعتبر معايير السلامة للأدوية أو السيارات أو الطائرات عائقًا أمام التقدم، بل هي السبب الرئيسي لثقة الناس بهذه التقنيات". وأضاف أن الرقابة البشرية "لا يمكن أن تكون مجرد إجراء شكلي".

، جزءاً من الأدلة التي أثارت النقاش في تلك القمة . وحتى ذلك الحين، أفاد طفل واحد على الأقل في كل فصل دراسي بأنه كان ضحية لفيديوهات مزيفة بتقنية الذكاء الاصطناعي ذات محتوى جنسي صريح، وذلك في دراسة شملت 11 دولة من دول الجنوب العالمي. 

رئيسة هيئة الأمم المتحدة للمرأة، سيما باهوس، إلى التحيز الجنسي في هذا المجال. ووفقًا لها، فإن حوالي 88% من كبار الباحثين في مجال الذكاء الاصطناعي من غير البيض. كما أفادت بأن واحدة على الأقل من كل أربع ناشطات وصحفيات شملهن استطلاع وكالتها قد تعرضن للإساءة عبر الإنترنت بمساعدة الذكاء الاصطناعي.

لقد تنبهت مختبرات الذكاء الاصطناعي والمشرعون إلى هذه المشكلات

لم تكن الأمم المتحدة وحدها من دق ناقوس الخطر هذا الصيف. فقد دعا السيناتور الأمريكي بيرني ساندرز إلى وقف فوري لأعمال الذكاء الاصطناعي المتقدمة وحظر دائم للذكاء الخارق، بينما ضغطت مجموعة من البرلمانيين البريطانيين من مختلف الأحزاب من أجل "مفاتيح إيقاف" إلزامية قانونًا للذكاء الاصطناعي بعد ما وصفوه بسلسلة منdentالذكاء الاصطناعي المارقة. 

وقد أعقبت تلك المخاوف ادعاء شركة OpenAI، المرتبط بنموذج GPT-6 Astra، بأن تقنيتها قد وصلت إلى الذكاء الاصطناعي العام، واعتراف شركة Anthropic بأن نماذجها الخاصة "لم تكن متوافقة تمامًا" مع القيم الإنسانية.

يأتي جزء من هذا الضغط من داخل الصناعة نفسها. ففي مقال نُشر في يونيو/حزيران على موقع أكسيوس، جادل داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، بأن الحكومات يجب أن تمتلك السلطة القانونية لمنع أو عكس عمليات نشر الذكاء الاصطناعي الخطيرة، وأن النماذج الرائدة يجب أن تخضع لاختبارات إلزامية تمامًا مثل السيارات أو الطائرات أو الأدوية الجديدة. 

وفي تحديثه الخاص بالمجلس، قام تورك بتوسيع الموضوع ليشمل ساحة المعركة، مؤيداً الدعوات لحظر الأسلحة التي يمكنها القتل دون تدخل بشري.