تطلق OpenAI فريق 'المواءمة الفائقة' لمواجهة مخاطر الذكاء الاصطناعي الفائق مباشرة
تضع OpenAI
- تعمل OpenAI على رفع الوعي بشأن مخاطر الذكاء الاصطناعي الفائق وتشكيل فريق مخصص لمعالجة هذه المخاوف.
- تؤكد الشركة على ضرورة تطابق الذكاء الاصطناعي الفائق مع القيم والنوايا البشرية، وإنشاء مؤسسات حوكمة جديدة.
- تعترف OpenAI بأن مطابقة الذكاء الاصطناعي العام (AGI) تنطوي على مخاطر كبيرة وقد تتطلب جهدًا جماعيًا من البشرية جمعاء.
أعلن سام ألتمان، الرئيس التنفيذي لـ OpenAI، عن بدء حملة عالمية لرفع الوعي حول المخاطر المحتملة للذكاء الاصطناعي الفائق، حيث تتجاوز الآلات الذكاء البشري وقد تصبح غير قابلة للسيطرة.
رداً على هذه المخاوف، أعلنت OpenAI مؤخراً عن تشكيل فريق مخصص مكلف بتطوير طرق لمعالجة المخاطر المرتبطة بالذكاء الاصطناعي الفائق، والتي قد تظهر خلال هذا العقد.
تؤكد الشركة أن الإدارة الفعالة للذكاء الاصطناعي الفائق تتطلب إنشاء مؤسسات حوكمة جديدة وحل التحدي الحاسم المتمثل في مواءمة الذكاء الاصطناعي الفائق مع القيم والنوايا البشرية.
تقر OpenAI بأن مواءمة الذكاء الاصطناعي العام (AGI) يشكل مخاطر كبيرة على البشرية وقد يتطلب جهداً جماعياً من جميع البشرية، كما ورد في مدونة صدرت العام الماضي.
يُطلق على الفريق الجديد المُشكل اسم 'المواءمة الفائقة' (Superalignment)، ويتكون من باحثين ومهندسين من الطراز الأول في تعلم الآلة. يقود هذا الجهد إيليا سوتسكيفر، المؤسس المشارك والرئيس العلمي لـ OpenAI، وجان لايلي، رئيس المواءمة.
لمعالجة التحديات التقنية الأساسية لمواءمة الذكاء الاصطناعي الفائق، التزمت OpenAI بتكريس 20% من مواردها الحاسوبية المكتسبة حتى الآن لمشكلة المواءمة. تتوقع الشركة حل هذه التحديات خلال أربع سنوات.
الهدف الرئيسي لفريق المواءمة الفائقة هو تطوير باحث مواءمة آلي على مستوى البشر. يتضمن ذلك إنشاء أنظمة ذكاء اصطناعي يمكنها مواءمة أنظمة الذكاء الاصطناعي الفائق بشكل فعال، متفوقة على البشر في السرعة والدقة.
لتحقيق هذا الإنجاز، سيركز الفريق على تطوير طريقة تدريب قابلة للتوسع تستخدم أنظمة الذكاء الاصطناعي لتقييم أنظمة الذكاء الاصطناعي الأخرى. سيتم التحقق من صحة النموذج الناتج من خلال أتمتة البحث عن السلوكيات المحتملة المشكلة. سيخضع خط أنابيب المواءمة أيضاً لاختبارات إجهاد صارمة من خلال تدريب نماذج غير موائمة عمداً لقياس قابلية اكتشافها.
تمثل جهود OpenAI لمعالجة مخاطر الذكاء الاصطناعي الفائق خطوة كبيرة نحو السعي لتطوير ذكاء اصطناعي مسؤول وموائم. من خلال تجميع فريق من كبار الباحثين والتزام موارد حاسوبية كبيرة، تظهر الشركة التزامها بالتخفيف الاستباقي للمخاطر المحتملة المرتبطة بظهور الذكاء الاصطناعي الفائق. بينما تنطلق في هذه الرحلة الطموحة، تضع OpenAI سابقة للتعاون والوحدة في حماية مستقبل البشرية في عصر الذكاء الاصطناعي.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
موتوما ماكسويل
يُفضّل ماكسويل بشكل خاص كتابة مقالات حول البلوك تشين والعملات المشفرة. بدأ رحلته في التدوين عام 2020، ثم ركّز لاحقًا على عالم العملات الرقمية. هدف حياته هو تعريف الناس في جميع أنحاء العالم بمفهوم اللامركزية.
