OpenAI تسلط الضوء على حوكمة الذكاء الاصطناعي الفائق للتنمية والنشر المسؤول

ملخص سريع

• تؤكد OpenAI على الحاجة إلى حوكمة الذكاء الاصطناعي الفائق لإدارة المخاطر والفوائد المحتملة لأنظمة الذكاء الاصطناعي المتقدمة.
• يُعد التنسيق بين جهود التطوير الرائدة أمرًا حاسمًا لضمان التكامل الآمن للذكاء الاصطناعي الفائق في المجتمع.
• تقترح OpenAI إنشاء هيئة دولية لفحص أنظمة الذكاء الاصطناعي، وفرض معايير السلامة، وتنظيم نشر الذكاء الاصطناعي الفائق.

نشر سام ألتمان، إلى جانب كبار مسؤولي شركة OpenAI غريغ بروكمان وإيليا سوتسكيفر، مؤخرًا مقالًا يؤكد على أهمية معالجة حوكمة الذكاء الاصطناعي الفائق، وهو نظام ذكاء اصطناعي مستقبلي يتفوق في قوته على أي تقنية واجهناها حتى الآن.

وفي حين تعترف OpenAI بالفوائد المحتملة للذكاء الاصطناعي، أكدت على أهمية إدارة المخاطر لخلق مستقبل مزدهر. وسيكون تحقيق التوازن بين التنظيم والابتكار أمرًا بالغ الأهمية لإيجاد التوازن الصحيح في تسخير قوة الذكاء الاصطناعي مع التخفيف من المخاطر المحتملة.

قوة ومخاطر الذكاء الاصطناعي الفائق

يقر ألتمان بأن الذكاء الاصطناعي الفائق، الذي يتفوق في الأداء على مستوى الخبراء في معظم المجالات ويتنافس مع إنتاجية الشركات الكبرى، يحمل إمكانات هائلة للبشرية. ومع ذلك، يؤكد أيضًا أن الذكاء الاصطناعي الفائق قد يكون أكثر قوة من أي تقنية واجهناها في الماضي، سواء من حيث النتائج الإيجابية أو الجوانب السلبية المحتملة.

يستعرض ألتمان أوجه التشابه مع تقنيات مثل الطاقة النووية والأحياء الاصطناعية، والتي تطلبت تدابير استباقية للتخفيف من المخاطر الوجودية. ويبرز الحاجة إلى الإدارة الحذرة والتخفيف من المخاطر في تطوير الذكاء الاصطناعي الفائق.

تقترح OpenAI أن التنسيق بين جهود التطوير الرائدة أمر حاسم لضمان التكامل الآمن والسلس للذكاء الاصطناعي الفائق مع المجتمع. ويقترح ألتمان إمكانية قيام الحكومات بإنشاء مشروع تعاوني، يمكن للشركات المشاركة فيه بنشاط. سيساعد هذا النهج المنسق في الحفاظ على معايير السلامة مع تمكين التقدم في مجال الذكاء الاصطناعي الفائق. بالإضافة إلى ذلك، تعتقد OpenAI أن الاتفاق الجماعي، الذي قد تدعمه منظمة جديدة، يمكن أن يحد من معدل نمو قدرات الذكاء الاصطناعي عند الحدود القصوى لضمان التنمية المسؤولة.

الحاجة إلى هيئة حوكمة

لتنظيم الذكاء الاصطناعي الفائق، اقترح ألتمان وزملاؤه إنشاء هيئة دولية تشبه الوكالة الدولية للطاقة الذرية (IAEA). ومن شأن مثل هذه الهيئة أن تفحص أنظمة الذكاء الاصطناعي، وتجرى عمليات تدقيق، وتختبر الامتثال لمعايير السلامة، وتفرض قيودًا على النشر ومستويات الأمان.

يجب أن يركز عمل هذه الوكالة على تقليل المخاطر الوجودية بدلاً من فرض سياسات الذكاء الاصطناعي على الدول الفردية. يجب أن تركز الوكالة المقترحة على تقليل المخاطر الوجودية بدلاً من التدخل في القضايا التي يمكن للدول الفردية معالجتها، مثل تحديد ما هو مسموح به للذكاء الاصطناعي قوله. وتتخيل OpenAI هذه الهيئة الحاكمة ككيان حاسم لضمان التنمية والنشر المسؤولين للذكاء الاصطناعي الفائق.

يُسلط مقال OpenAI الأخير حول حوكمة الذكاء الاصطناعي الفائق الضوء على أهمية معالجة المخاطر والفوائد المحتملة المرتبطة بتقدم الذكاء الاصطناعي. ويبرز منظور OpenAI حول حوكمة الذكاء الاصطناعي الفائق الحاجة إلى جهود منسقة، وإشراف تنظيمي، وتقدم تقني، وتعاون بين أصحاب المصلحة.

نظام مراقبة عالمي

«في OpenAI، لدينا سببان أساسيان. أولاً، نعتقد أنه سيؤدي إلى عالم أفضل بكثير مما يمكننا تخيله اليوم (نحن نشهد بالفعل أمثلة مبكرة على ذلك في مجالات مثل التعليم، والعمل الإبداعي، والإنتاجية الشخصية). يواجه العالم العديد من المشكلات التي سنحتاج فيها إلى مساعدة أكبر لحلها؛ يمكن لهذه التكنولوجيا أن تحسن مجتمعاتنا، ومن المؤكد أن القدرة الإبداعية للجميع على استخدام هذه الأدوات الجديدة ستدهشنا. وسيكون النمو الاقتصادي وزيادة جودة الحياة مذهلين.

ثانيًا، نعتقد أنه سيكون من غير البديهي والمصير أن نوقف إنشاء الذكاء الاصطناعي الفائق. ونظرًا لأن الفوائد هائلة جدًا، فإن تكلفة بنائه تنخفض كل عام، وعدد الجهات الفاعلة التي تبنيه يزداد بسرعة، وهو جزء جوهري من المسار التكنولوجي الذي نحن عليه، فإن إيقافه سيتطلب شيئًا يشبه نظام مراقبة عالمي، وحتى ذلك ليس مضمون النجاح. لذلك يجب أن ننجح في ذلك.»

مع تقدم أنظمة الذكاء الاصطناعي نحو الذكاء الاصطناعي الفائق، يصبح من الضروري إعطاء الأولوية للسلامة، وتخفيف المخاطر، وضمان التكامل المسؤول للذكاء الاصطناعي في المجتمع. ومن خلال معالجة هذه التحديات بشكل استباقي، تهدف OpenAI إلى التنقل في مستقبل الذكاء الاصطناعي الفائق بطريقة تعظم فوائده مع تقليل الأضرار المحتملة.