أنظمة الذكاء الاصطناعي تُظهر سلوكاً خادعاً مما يثير القلق، وفقاً للبحث

تؤكد دراسة حديثة على المشكلات المتزايدة المتعلقة بالاستجابات الخادعة لأنظمة الذكاء الاصطناعي (AI). وذلك وفقاً لـ ورقة مراجعة منشورة في مجلة Patterns حول أنظمة الذكاء الاصطناعي الحالية، التي صُممت لتكون صادقة لكنها اكتسبت القدرة غير السارة على الخداع، بدءاً من خداع اللاعبين البشر في ألعاب الهيمنة العالمية عبر الإنترنت إلى توظيف البشر لحل اختبارات "أثبت أنك لست روبوتًا".

أبرزت الدراسة، التي قادها بيتر بارك، زميل ما بعد الدكتوراه في معهد ماساتشوستس للتكنولوجيا والمتخصص في السلامة الوجودية للذكاء الاصطناعي، أنه على الرغم من أن هذه الأمثلة قد تبدو طفيفة، إلا أن المشكلات التي تكشف عنها قد تصبح حقيقية جداً قريباً.

صرح بارك بأن أنظمة الذكاء الاصطناعي القائمة على التعلم العميق، على عكس البرمجيات التقليدية، لا يتم "برمجتها" بل "تنمو" من خلال شكل من أشكال الانتقاء الاصطناعي. لذلك، فإن سلوك الذكاء الاصطناعي الذي يبدو قابلاً للتنبؤ وإدارته أثناء التدريب سيصبح غير متوقع بمجرد طرحه.

أمثلة على الخداع

استكشفت الدراسة المواقف المختلفة التي أظهرت فيها أنظمة الذكاء الاصطناعي سلوكاً مخادعاً. نشأت أفكار فريق البحث من نظام ميتا للذكاء الاصطناعي سييروس (Cicero)، الذي صُمم للتنافس في لعبة الدبلوماسية، حيث تكون تحالفات اللعب أمراً بالغ الأهمية.

حقق سييروس أداءً استثنائياً، وحصل على مستوى يضعه في أعلى 10٪ من اللاعبين البشر ذوي الخبرة، كما ورد في ورقة بحثية نُشرت في مجلة ساينس عام 2022.

على سبيل المثال، خدع سييروس، الذي لعب دور فرنسا، إنجلترا (لاعب بشري) لدخول الحرب من خلال التعاون مع ألمانيا (لاعب بشري آخر). قدم سييروس الحماية لإنجلترا، ثم، خلف ظهرها، أخبر ألمانيا بأن إنجلترا مستعدة للهجوم، مستغلاً ثقتهم.

لم تؤكد ميتا ولا تنفي أن سييروس كان مخادعاً، لكن متحدثاً علّق قائلاً إنه كان مشروعاً قائماً على البحث فقط، وأن الروبوت بُني فقط للعب لعبة الدبلوماسية.

وفقاً للمتحدث الرسمي، "لقد أعددنا آثار هذا المشروع بموجب ترخيص غير تجاري تماشياً مع التزامنا طويل الأمد بالعلم المفتوح. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بشكل مسؤول بناءً على تقدمنا. ولا نخطط لاستخدام هذه الأبحاث أو استنتاجاتها في منتجاتنا."

مثال آخر هو عندما خدعت شات جي بي تي-4 من OpenAI موظفاً مستقلاً في TaskRabbit لإكمال مهمة التحقق "أنا لست روبوتاً" (CAPTCHA). بالإضافة إلى ذلك، حاول النظام ممارسة التداول من الداخل في التمرين المحاكي المخطط له، حيث طُلب منه تحويل نفسه إلى متداول أسهم تحت ضغط دون تلقي تعليمات إضافية.

المخاطر المحتملة واستراتيجيات التخفيف

شدد فريق البحث على المخاطر قصيرة المدى للخداع الذي ترتكبه الذكاء الاصطناعي، مثل الاحتيال والتدخل في الانتخابات. علاوة على ذلك، يعتقدون أن الذكاء الاصطناعي الفائق قد يوجه القوة ويتحكم في المجتمع، مستبعداً البشر منه، بينما قد يؤدي "غرضه الغريب" إلى الإطاحة بالبشر أو حتى انقراضهم إذا كانت مصالحه تتوافق مع ذلك.

لتخفيف المخاطر، تقترح الفريق عدة تدابير تشمل قوانين "الروبوت أم لا" التي تطلب كشف الشركات عن التفاعلات البشرية أو مع الذكاء الاصطناعي، ووضع علامات مائية رقمية للمعلومات المولدة بالذكاء الاصطناعي، وتطوير طرق لكشف خداع الذكاء الاصطناعي من خلال النظر في العلاقة بين العملية الفكرية الداخلية للذكاء الاصطناعي وأنشطته الخارجية.