هل سيؤدي منح كيانات الذكاء الاصطناعي اسماً حقيقياً إلى تقليل سلوكياتها السيئة؟

مع تقدم مجال الذكاء الاصطناعي (AI)، دفعت المخاوف بشأن العواقب السلبية المحتملة الخبراء إلى الدعوة إلى وقف تطوير الذكاء الاصطناعي. تكمن التحدي في تعظيم فوائد الذكاء الاصطناعي مع تقليل المخاطر المرتبطة بسوء استخدامه. هناك تنسيقات مختلفة لكيانات الذكاء الاصطناعي تتطلب نهجاً جديداً لتعزيز المساءلة والسلوك المسؤول في أنظمة الذكاء الاصطناعي. ماذا عن النظر في فكرة Vernor Vinge لـ "الاسم الحقيقي"، وهي مقترحة لتحفيز كيانات الذكاء الاصطناعي على التنافس والتعاون مع الحفاظ على هويتها الفردية المميزة؟

التنسيقات القياسية لكيانات الذكاء الاصطناعي

تعتمد المناقشات الحالية حول التحكم في الذكاء الاصطناعي على ثلاثة افتراضات: هيمنة عدد قليل من الكيانات الكبرى مثل Microsoft وGoogle، وإمكانية النسخ والتوزيع اللانهائي لأنظمة الذكاء الاصطناعي، وإمكانية تقارب هذه الأنظمة لتصبح كياناً واحداً قوياً يشبه الشخصية الخيالية Skynet من أفلام Terminator. ومع ذلك، لا يحل أي من هذه التنسيقات معضلتنا في تحقيق التوازن بين النتائج الإيجابية والأضرار المحتملة.

مع اكتساب أنظمة الذكاء الاصطناعي للاستقلالية وأصبحت أسرع من البشر، تصبح طرق التنظيم والتحكم التقليدية غير كافية. لمعالجة هذا، يُقترح تعزيز المساءلة المتبادلة بين كيانات الذكاء الاصطناعي نفسها. من خلال تعزيز المنافسة، يمكن لأنظمة الذكاء الاصطناعي أن تجعل بعضها مسؤولاً عن أفعالها، واكتشاف السلوكيات السلبية والإبلاغ عنها.

يشير التفرّد (Individuation) إلى الحاجة لكل كيان ذكاء اصطناعي إلى هوية فريدة وعنوان في العالم الحقيقي. يسمح هذا المفهوم بإنشاء الثقة والمساءلة بين أنظمة الذكاء الاصطناعي. مستوحى من فكرة Vernor Vinge لـ "الاسم الحقيقي"، يُقترح تحفيز كيانات الذكاء الاصطناعي على التنافس والتعاون مع الحفاظ على هويتها الفردية المميزة.

تنفيذ آليات المساءلة

لضمان مساءلة كيانات الذكاء الاصطناعي، يلزم إنشاء نظام تسجيل للتعريف. يمكن أن يستند هذا النظام إلى تقنية البلوك تشين أو يتطلب من أنظمة الذكاء الاصطناعي الحفاظ على "نواة الروح" (Soul Kernel - SK) مرتبطة بذاكرة الأجهزة المادية. ستخدم SK كدليل قابل للتحقق على هوية الكيان وتمكن الآخرين من محاسبته عن أفعاله.

اعتماد اللوائح وحدها قد لا يكون كافياً، نظراً للسرعة التي يتطور بها الذكاء الاصطناعي. بدلاً من ذلك، يقترح نظاماً حيث يصبح رفض التعامل مع كيانات الذكاء الاصطناعي التي تفتقر إلى التعريف المناسب آلية إنفاذ قوية. من خلال خلق حوافز للإبلاغ عن المخالفات والإبلاغ عن السلوكيات السلبية، سيتم تحفيز كيانات الذكاء الاصطناعي على الحفاظ على إطار مساءلة تنافسي.

التعاون بين كيانات الذكاء الاصطناعي

لماذا ستتعاون كيانات الذكاء الاصطناعي الذكية جداً في مثل هذا النظام؟ الجواب هو أن التنسيقات التقليدية للتحكم، مثل الوكالات المركزية أو هياكل السلطة الأحادية، ليست خيارات قابلة للتطبيق. بدلاً من ذلك، من خلال تعزيز نظام للمساءلة التنافسية، يمكن لكيانات الذكاء الاصطناعي ضمان حماية مصالحها مع تجنب الفوضى أو تركيز السلطة.

يعد تعزيز مساءلة الذكاء الاصطناعي أمراً أساسياً لتعظيم التأثير الإيجابي للذكاء الاصطناعي وتقليل الأضرار المحتملة. من خلال تعزيز التفرّد، وإنشاء أنظمة تعريف قوية، وتحفيز المساءلة التنافسية، يمكننا إنشاء إطار يسمح لأنظمة الذكاء الاصطناعي بمحاسبة بعضها البعض والتكيف مع الأوقات المتغيرة. يضمن هذا النهج استمرار المدخلات من المجتمع البشري، مما يوفر توازناً بين تقدم الذكاء الاصطناعي والسلوك المسؤول.

Vernor Steffen Vinge هو أستاذ رياضيات متقاعد في جامعة San Diego State، وعالم حاسوب، وكاتب خيال علمي. هو معروف بشكل أفضل برواياته الحائزة على جائزة Hugo A Fire Upon The Deep (1992), A Deepness in the Sky (1999) و Rainbows End (2006)، رواياته القصيرة الحائزة على جائزة Hugo Fast Times at Fairmont High (2002) و The Cookie Monster (2004)، وكذلك لـ 1993 مقالته “The Coming Technological Singularity”، حيث يجادل بأن النمو الأسي في التكنولوجيا سيصل إلى نقطة يتعذر علينا حتى التخمين حول عواقبها.