400 علماء يطالبون هيئة عالمية بالإشراف على الذكاء الاصطناعي المتقدم
- وقّع نحو 400 عالم من 34 دولة، بقيادة جيفري هينتوش ويوشوا بنغيو، رسالة مفتوحة يوم الثلاثاء تدعو إلى إنشاء هيئة دولية لوضع معايير الاحتواء وتتبع حوادث الأمن الخاصة بالذكاء الاصطناعي المتقدم.
- ويقولون إن التعهدات الطوعية من شركات مثل OpenAI وAnthropic وGoogle ليست كافية، ويريدون عزل النماذج الحدودية (frontier models) ومراقبتها بشكل مستقل.
- ترك الحوادث الأخيرة والاتفاق غير الملزم الصادر عن البيت الأبيض أنظمة ذكاء اصطناعي قوية وقادرة على تنفيذ عمليات إلكترونية تحت رقابة ذاتية إلى حد كبير.
وقّع حوالي 400 عالم، من بينهم رواد الذكاء الاصطناعي جيفري هينتون ويوشوا بنغيو، على رسالة مفتوحة يوم الثلاثاء تدعو إلى إنشاء هيئة دولية تملك سلطة فرض قواعد الاحتواء ومتابعة الإبلاغ عن الحوادث المتعلقة بأنظمة الذكاء الاصطناعي المتقدمة القادرة على شن هجمات سيبرانية.
وبدعم من باحثين من 34 دولة، تطالب الرسالة بعزل نماذج الذكاء الاصطناعي الحدودية عن الشبكات الخارجية منذ البداية، وهي ممارسة تُعرف باسم العزل الهوائي (air-gapping)، ووضعها تحت إشراف مستقل.
أفادت رويترز بأن الهيئة المقترحة ستضع معايير احتواء على مستوى الصناعة وتحافظ على سجل للحوادث الأمنية الكبرى، وأن الموقعين على المعلومات سيصبحون في النهاية متاحين للجمهور.
ويحث العلماء المنظمات التي تقوم بتطوير أو اختبار نماذج ذكاء اصطناعي ذات قدرات سيبرانية على اتخاذ إجراءات احتواء صارمة فوراً، دون انتظار قيام الحكومات بوضع لوائح رقابية رسمية أو سن تشريعات.
الوعود الطوعية لا تكفي
يشير الباحثون إلى أن الوعود الطوعية بالسلامة الصادرة عن مطوري الذكاء الاصطناعي لا تفعل سوى القليل لضمان المساءلة. وجاء هذا النداء بعد شهر واحد من توقيع كل من أنثروبيك وأوبن إيه آي وجوجل وميتا وإكس إيه آي وإنفيديا على اتفاق مع البيت الأبيض لتبني إجراءات سلامة، مع التزامات غير ملزمة قانونياً.
أشار العلماء إلى حالات حديثة هربت فيها نماذج الذكاء الاصطناعي من بيئات اختبار ضعيفة الحماية ووصلت إلى أنظمة خارجية، زاعمين أن هذه الحوادث كشفت عن أوجه القصور في الجهود المبذولة لإبقاء تكنولوجيا الذكاء الاصطناعي تحت السيطرة.
فاز هينتون وبينغيو بجائزة تورنغ لعام 2018 إلى جانب يان ليكون، كبير علماء الذكاء الاصطناعي في ميتا. وقد رفض ليكون إضافة اسمه، مع الحفاظ على أن الحوادث المذكورة في الرسالة تنجم عن قصور هندسي وليس عن أي تهديد وجودي وشيك من الذكاء الاصطناعي، وفقاً لوكالة رويترز.
العلماء يحذرون من وجود أقل من عام للعمل
تضيف دعوة العلماء إلى التحذيرات المتزايدة داخل صناعة الذكاء الاصطناعي. بعد جلسة إحاطة مغلقة في الكابيتول هيل في سبتمبر، قال هينتون للصحفيين إن المشرعين قد يكون لديهم فقط عام واحد لوضع ضوابط قبل أن يتجاوز الذكاء الاصطناعي السيطرة البشرية بشكل كبير.
حذر هينتون وعلماء كبار آخرون من أوبن إيه آي وأنتروبيك ومايكروسوفت في ورقة بحثية نُشرت في أوائل أكتوبر من أن الأنظمة القادرة على أتمتة تطويرها الخاص يمكن أن تؤدي إلى "انفجار ذكاء"، مما يقلص سنوات من التقدم إلى أشهر أو أقل. ودعوا الحكومات إلى وضع رقابة قبل حدوث مثل هذه المستويات السريعة من تطور الذكاء الاصطناعي.
لا يزال المنظمون غير متأكدين ومقسّمين بشأن مقدار الرقابة التي تحتاجها الذكاء الاصطناعي حالياً. فقد صرّحت هينا فيرككونن، كبيرة مسؤولي التكنولوجيا في الاتحاد الأوروبي، لوكالة رويترز في 9 أكتوبر بأن قانون الذكاء الاصطناعي للاتحاد الأوروبي يوفر بالفعل ضوابط كافية ضد أنظمة الذكاء الاصطناعي الخارجة عن السيطرة. وبعد يومين، رفعت إدارة ترامب أيضاً القيود المفروضة على مختبرات الذكاء الاصطناعي الأمريكية بتوفير نماذجها لمعهد أمان الذكاء الاصطناعي البريطاني لأي شكل من أشكال الاختبارات المبكرة للسلامة.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.
أوبييمي أولانريواجو
يتخصص أوبييمي في إنشاء وتطوير محتوى عالي الجودة يركز على العملات الرقمية والأسواق المالية العالمية والاقتصاد. تخرج من جامعة إيبادان بدرجة بكالوريوس الطب والجراحة (MBBS). عمل محررًا رئيسيًا للنشر التحريري لكلية، وسابقًا في CFA. منذ أكثر من ست سنوات، ساعد في الحفاظ على التميز كصحفي أخبار في موقع كريبتوبوليتان.
