رئيس حقوق الأمم المتحدة ترك يحذر من أن الذكاء الاصطناعي المتقدم قد يهدد البشرية، ويدعو إلى 'خطوط حمراء'

حذر المفوض السامي لحقوق الإنسان في الأمم المتحدة (UN)، فولكر ترك، علناً من قدرات الذكاء الاصطناعي التي تنمو إلى مرحلة تصبح فيها تهديداً وجودياً للبشرية في مجلس حقوق الإنسان في جنيف، اليوم السابق، 7 سبتمبر.

دفع ترك الحكومات للتحرك بسرعة لبناء التحوطات وتقييد مختبرات الذكاء الاصطناعي في طليعة السباق لقيادة تكنولوجيا الأنظمة المستقلة من الانزلاق عن السيطرة وسط الانتهاكات المتصاعدة وحوادث السلامة.

أكبر كابوس للهيئة التنفيذية للأمم المتحدة هو أن الأنظمة التي ينمو فيها تكنولوجيا الذكاء الاصطناعي أسرع من الأنظمة التي يمكنها حالياً تتبعها. لقد تصاعد هذا النمو غير الخاضع للرقابة التهديدات إلى ما وراء المعلومات المضللة وفقدان الوظائف إلى مجالات وجودية مثل الأمن، والمساءلة، والإشراف غير الخاضع للرقابة على الأنظمة عالية الاستقلالية. 

رئيس حقوق الإنسان في الأمم المتحدة يدعو إلى عمل دولي عاجل 

استشهد ترك بنافذة مغلقة عندما لا تزال قدرات الذكاء الاصطناعي قابلة للتحقق كأساس للضرورة التي أرفقها بدعوته للعمل المنسق دولياً. كما سلطوا الضوء كيف أن وتيرة واتجاه تقدم المجال تقع بشكل غير متناسب في أيدي دائرة صغيرة من التنفيذيين والشركات التكنولوجية. 

ترك اقترح حلاً إلى الأعلام الحمراء التي أشار إليها. وبدلاً من ذلك، يدعو إلى أن تقوم البلدان التي تتخذ شركات الذكاء الاصطناعي الرائدة منها مقراً لها، والبلدان التي تسيطر على سلاسل التوريد الحرجة، بالخطو إلى الأمام ورسم "خطوط حمراء" حول مدى استعدادها للسماح لهذه التكنولوجيا بالوصول إليه.

تعود المفوضة السامية للأمم المتحدة لحقوق الإنسان إلى تناول موضوع كانت الهيئة الدولية قد ناقشته في أول حوار عالمي حول حوكمة الذكاء الاصطناعي في نفس المدينة السويسرية في يوليو. 

وتحدثت ترك في قمة "الذكاء الاصطناعي من أجل الخير" التابعة للاتحاد الدولي للاتصالات، حيث بدأت المناقشة، قائلة: "لا نعتبر معايير السلامة الخاصة بالأدوية أو السيارات أو الطائرات عوائق أمام التقدم،" وفقاً لـ مقاطع فيديو للأمم المتحدة. "إنها السبب في أن الناس يثقون في تلك التقنيات من الأساس." وأضافت أن الإشراف البشري "لا يمكن أن يكون مجرد ختم مطاطي."

وكان جزء من الأدلة التي دفعت المناقشة في تلك القمة تقدمه سونيا ليفينغستون من الفريق العلمي العالمي المعتمد من الأمم المتحدة بشأن الذكاء الاصطناعي. ووفقاً للدراسة التي شملت 11 دولة من دول الجنوب العالمي، قال طفل واحد على الأقل في كل فصل دراسي إنه كان ضحية لصور عميقة مزيفة جنسياً باستخدام الذكاء الاصطناعي. 

كما أشارت رئيسة هيئة الأمم المتحدة للمرأة، سيمبا باهوس، إلى التحيز الجنسي في كل ذلك. ووفقاً لها، حوالي 88٪ من كبار باحثي الذكاء الاصطناعي. كما أفادت بأن واحدة من بين كل أربع ناشطات وصحفيات استطلعت آراءهن وكالتها تعرضن للإساءة عبر الإنترنت بمساعدة الذكاء الاصطناعي.

استيقظت مختبرات الذكاء الاصطناعي والمشرعون على هذه القضايا

والأمم المتحدة ليست الوحيدة التي تطلق إنذاراً هذا الصيف. فقد دعا السيناتور الأمريكي بيرني ساندرز إلى وقف فوري لأعمال الذكاء الاصطناعي المتقدمة وحظر دائم للذكاء العام الفائق، بينما دفع مجموعة من أعضاء البرلمان البريطاني عبر الأحزاب إلى فرض "مفاتيح إيقاف" قانونية للذكاء الاصطناعي بعد ما وصفوه بسلسلة من حوادث الذكاء الاصطناعي الخارجة عن السيطرة. 

وجاءت هذه المخاوف بعد ادعاء شركة OpenAI، المرتبط بـ نموذج GPT-6 Astra، بأن تقنيتها قد وصلت إلى الذكاء العام الاصطناعي، واعتراف شركة Anthropic بأن نماذجها الخاصة "ليست متوافقة تماماً" مع القيم البشرية.

ويأتي جزء من هذا الضغط من داخل الصناعة. ففي مقال نشر في يونيو غطته Axios، جادل الرئيس التنفيذي لشركة Anthropic، داريو أمودي، بأن على الحكومات أن تملك السلطة القانونية لحظر أو عكس نشر الذكاء الاصطناعي الخطير، وأن تخضع النماذج الحدودية لاختبارات إلزامية تشبه إلى حد كبير السيارات والطائرات أو الأدوية الجديدة. 

وفي تحديثه الخاص لمجلسه، وسعت ترك هذا الموضوع ليشمل ساحة المعركة، داعية إلى حظر الأسلحة التي يمكنها القتل دون وجود إنسان في الحلقة.