مجلس الذكاء الاصطناعي البريطاني ينظر في حظر أنظمة الذكاء الاصطناعي القوية، لضمان السلامة والميزة التنافسية

ملخص سريع

• يدعو Marc Warner، رئيس Faculty AI وعضو في مجلس الذكاء الاصطناعي البريطاني، إلى حظر محتمل في المستقبل لأنظمة الذكاء الاصطناعي العام (AGI) القوية للغاية بسبب المخاوف بشأن المخاطر التي تشكلها على وجود البشرية.
• يشدد وارنر على الحاجة إلى الشفافية ومتطلبات التدقيق وتدابير السلامة في تطوير AGI خلال الأشهر الستة إلى الاثني عشر القادمة لضمان الاستخدام المسؤول ومنح بريطانيا ميزة تنافسية.
• تتوافق هذه المناقشات مع الدعوات الدولية لوضع مدونات طوعية للممارسات الخاصة بالذكاء الاصطناعي وإعداد الاتحاد الأوروبي لقانون الذكاء الاصطناعي، مما يؤكد أهمية التعاون الدولي والتنظيم الاستباقي لمعالجة المخاوف الأخلاقية المتعلقة بأنظمة الذكاء الاصطناعي القوية.

شاركت هيئة الخبراء المعنية بالذكاء الاصطناعي التابعة للحكومة البريطانية مؤخرًا في مناقشات حول الحظر المحتمل لأنظمة الذكاء الاصطناعي العام (AGI) القوية للغاية. بقيادة Marc Warner، عضو مجلس الذكاء الاصطناعي ورئيس Faculty AI، تؤكد هذه المحادثات على الحاجة إلى تطوير مسؤول وآمن لتكنولوجيا الذكاء الاصطناعي. ستغوص هذه المقالة في المخاوف التي طرحها Marc Warner، وأهمية إعطاء الأولياء لتدابير السلامة، والسياق الدولي الذي تجري فيه هذه المناقشات.

يُذكر أن مارك وانر هو الرئيس التنفيذي للكلية الذي لعب دوراً محورياً في الاستجابة للجائحة في المملكة المتحدة. تميز كالفيزيائي الذي منع كارثة المناعة القطيعية في المملكة المتحدة، وبدونه "كان سيقتل الآلاف" كما يعتقد زملاؤه.

استعارة اتخاذ قرارات معقولة بشأن الذكاء العام الاصطناعي

أعرب مارك وارنر، الذي يمثل Faculty AI، عن مخاوفه بشأن الآثار المستقبلية لأنظمة الذكاء العام الاصطناعي غير المنظمة. وتحدث في اجتماع مع وزيرة التكنولوجيا في المملكة المتحدة، مشدداً على أهمية اتخاذ قرارات معقولة خلال الأشهر الستة إلى الاثني عشر القادمة. وينبع هذا الاستعجال من المخاطر المحتملة التي تشكلها أنظمة الذكاء العام الاصطناعي قوية جداً، والتي يحذر وارنر من أنها قد تؤدي حتى إلى انقراض البشرية.

يبرز وارنر الحاجة إلى الشفافية ومتطلبات التدقيق في تطوير ونشر أنظمة الذكاء العام الاصطناعي. ومن خلال ضمان أن عمليات صنع القرار والخوارزميات الكامنة وراء هذه الأنظمة قابلة للتفسير والمساءلة، يمكن تقليل مخاطر العواقب غير المقصودة. إن تنفيذ تدابير شفافية شاملة لن يعزز فقط ثقة الجمهور في تقنيات الذكاء الاصطناعي، بل سيُسهل أيضاً التنظيم والإشراف الفعالين.

تعد السلامة مصدر قلق رئيسي في تطوير أنظمة الذكاء العام الاصطناعي. ويدعو وارنر إلى تنفيذ تدابير سلامة قوية لمنع أي مخاطر محتملة مرتبطة بنشر الذكاء الاصطناعي المتقدم للغاية. قد تشمل هذه التدابير آليات للتصميمات الآمنة والفائقة التشغيل، واختبارات صارمة، ومراقبة مستمرة للكشف عن أي مشكلات محتملة وتصحيحها في الوقت المناسب. ومن خلال إعطاء الأولوية للسلامة، يمكن للمملكة المتحدة أن توطد مكانتها كرائدة في تطوير الذكاء الاصطناعي المسؤول، مما يمنحها في النهاية ميزة تنافسية في السوق العالمية.

السياق الدولي والمبادرات التعاونية

تحدث هذه المناقشات داخل مجلس الذكاء الاصطناعي في المملكة المتحدة في سياق التعاون الدولي المتزايد والأطر التنظيمية لتطوير ونشر الذكاء الاصطناعي.

تُشير الدعوات المشتركة من قبل الاتحاد الأوروبي والولايات المتحدة لوضع قواعد طوعية للممارسة في مجال الذكاء الاصطناعي إلى الاعتراف بالحاجة إلى التعاون الدولي. ومن خلال تعزيز التعاون بين البلدان المتشابهة في التفكير، تهدف هذه القواعد إلى معالجة المخاوف المشتركة وإرساء المبادئ التوجيهية والأخلاقيات والمعايير. إن مشاركة المملكة المتحدة في هذه المبادرات تُظهر التزامها بممارسات الذكاء الاصطناعي المسؤولة على النطاق العالمي.

يتولى الاتحاد الأوروبي دوراً رائداً في وضع الأطر التنظيمية للذكاء الاصطناعي. ومن المقرر أن يصبح قانون الذكاء الاصطناعي المقترح للاتحاد الأوروبي أحد أول الأطر التشريعية الشاملة التي تحكم تطبيقات الذكاء الاصطناعي. ويهدف إلى ضمان الشفافية والمساءلة واحترام الحقوق الأساسية. وتتوافق مناقشات مجلس الذكاء الاصطناعي في المملكة المتحدة مع هذه المبادرة الأوسع للاتحاد الأوروبي، مما يعكس الاعتراف المشترك بالحاجة إلى التنظيم الاستباقي للتخفيف من المخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي القوية.

يمكن للمملكة المتحدة أن تقود تطوير الذكاء الاصطناعي المسؤول

تسلط مناقشات مجلس الذكاء الاصطناعي في المملكة المتحدة حول حظر محتمل لأنظمة الذكاء العام الاصطناعي قوية جداً على أهمية تطوير الذكاء الاصطناعي المسؤول. ومع مخاوف مارك وارنر بشأن المخاطر المحتملة التي قد تؤدي إلى انقراض البشرية، فإن التركيز على الشفافية ومتطلبات التدقيق وتدابير السلامة أمر بالغ الأهمية. ومن خلال اتخاذ قرارات معقولة خلال الأشهر القليلة المقبلة، يمكن للمملكة المتحدة أن تضع نفسها كرائدة في تطوير الذكاء الاصطناعي المسؤول، مما يمنحها في النهاية ميزة تنافسية. إن المبادرات التعاونية على المستوى الدولي، مثل قواعد الممارسة الطوعية وقانون الذكاء الاصطناعي للاتحاد الأوروبي، تعزز الحاجة إلى التعاون العالمي لمعالجة المخاوف الأخلاقية وإرساء أطر تنظيمية.