اتفاقية سلامة الذكاء الاصطناعي هي مسعى مشترك بين حكومتي المملكة المتحدة والولايات المتحدة لتطوير إمكانات النمو الواعدة وأمن تقنيات الذكاء الاصطناعي من خلال نهج ثوري.
تم إضفاء الطابع الرسمي على هذه المشاركة في أوائل أبريل 2024 من قبل وزيرة التكنولوجيا البريطانية ميشيل دونيلان ووزيرة التجارة الأمريكية جينا ريموندو في إطار الحوار الاستراتيجي التكنولوجي عبر الأطلسي بين المملكة المتحدة والولايات المتحدة.
اتفاقية سلامة الذكاء الاصطناعي لمواجهة التحديات الناشئة والمعايير الأخلاقية
تهدف الاتفاقية إلى دمج الأساليب العلمية والجهود المشتركة بين الدولتين لتمكين صنع موصلات جديرة بالثقة لنماذج وأنظمة ووكلاء الذكاء الاصطناعي التي يمكنها إنجاز المهمة.
يتمتع الذكاء الاصطناعي بجاذبية في مجالات مختلفة، على سبيل المثال، الرعاية الصحية والتمويل والتعليم، إلى حد أنه تم الاعتماد عليه في البنى التحتية الحيوية والحساسة. إن وتيرة انتشاره وتحسين القدرات الحاسوبية للذكاء الاصطناعي جعلت الوضع أكثر إلحاحا ويتطلب سن تدابير سلامة صارمة ومبادئ أخلاقية.
استنادًا إلى عائشة إقبال، العضو البارز في معهد مهندسي الكهرباء والإلكترونيات (IEEE) والمدربة الهندسية الوحيدة، من المتوقع أن يصل معدل نمو الذكاء الاصطناعي إلى 37.3% سنويًا من عام 2023 إلى عام 2030. ويؤدي هذا التوسع matic إلى تحديات مثل المعروض المحدود من المهنيين البشريين، والتفاصيل الدقيقة. تصميم الأنظمة والهندسة المعمارية، والقضايا المتعلقة بالحكومة، والمخاوف الاجتماعية مثل أتمتة المخططات وإزاحة الوظائف.
تعزز الاتفاقية الذكاء الاصطناعي والمعايير الأخلاقية القابلة للتفسير
تم تصميم الصفقة بحيث يمكن معالجة هذه التحديات من خلال وضع معايير سلامة الذكاء الاصطناعي والتنمية المسؤولة. لا تعمل هذه المعايير فقط كتدابير للحد من المخاطر ودليل على المساءلة. وتهدف أيضًا إلى خلق بيئة موثوقة ومراقبة التصميمات الأخلاقية لتلك الأنظمة بدقة.
تشير إليزابيث واتسون، مهندسة أخلاقيات الذكاء الاصطناعي التي تعمل في جامعة ستانفورد، إلى أهمية الذكاء الاصطناعي القابل للتفسير وصعوده. يدور هذا الجانب من الذكاء الاصطناعي حول جعل الخوارزميات مفهومة لغير الخبراء الذين تتأثر قواتهم البحرية بشكل متزايد في العديد من مجالات المجتمع، وهي ميزة مهمة يجب أن تكون في المزيد من القطاعات. يعمل الذكاء الاصطناعي القابل للتفسير على تسهيل قيام السلطات الإشرافية والجمهور بفحص النتائج الخوارزمية والاعتراض عليها، والتأكد من أن أنظمة التعلم الآلي قابلة للتفسير ومسؤولة.
التأثير العالمي من خلال التعاون التطلعي
يمكن هنا الاعتراف بالتعاون بين المملكة المتحدة والولايات المتحدة باعتباره استراتيجية للدولتين الأكثر تقدمًا في مجال سلامة الذكاء الاصطناعي. ومن المتوقع أن يؤدي هذا التعاون إلى قيادة الطريق، والعمل بشكل مشترك، على تطوير بروتوكولات السلامة المشتركة مع إنشاء معايير لاختبار أنظمة الذكاء الاصطناعي كأمر مفيد.
تعمل هذه البروتوكولات كأداة للتحقق مما إذا كانت أنظمة الذكاء الاصطناعي قادرة على التعميم على الحالات غير المعروفة، وفي الوقت نفسه، إصدار أحكام عقلانية أم لا مع الحفاظ على المرونة الوظيفية للنظام.
مسبقًا، قال واتسون إنه نتيجة للتعاون، سيتعرض العالم لنشر معايير فعالة من شأنها أن تجيب على مخاوف الناس المستمرة فيما يتعلق باستقلالية الذكاء الاصطناعي لدينا. ومن خلال النهج التعاوني، تقدم المملكة المتحدة والولايات المتحدة مثالاً للدول الأخرى في تطوير كتاب قواعد داعمة وأخلاقية قد تحدد الطريقة التي سيتم بها إدارة الذكاء الاصطناعي عالميًا على المدى الطويل.
أصبحت هذه الاتفاقية أول إجراء استباقي تجاه المشكلات الشاملة التي تخلقها الأنظمة الناشئة لتقنيات الذكاء الاصطناعي. فهو لا يدل على قيمة التعاون الدولي في التطوير التكنولوجي فحسب، بل يشير ضمنا أيضا إلى حقيقة مفادها أن العلم والتكنولوجيا يمكن حقنهما بشكل جماعي بإحساس بالاتجاه، مما يسمح لنا بإدارة وتوجيه نمو الذكاء الاصطناعي بشكل فعال.
