جندي الذكاء الاصطناعي "تشارلي، المحارب الافتراضي المخضرم" يواجه مخططات الممزّعين

أطلقت مكتبة ولاية كوينزلاید مؤخرًا "تشارلي، المحارب الافتراضي المخضرم"، وهو روبوت دردشة بالذكاء الاصطناعي صُمّم للإجابة عن الأسئلة حول تجارب جنود أنزاك في الحرب العالمية الأولى. غير أن مموّعين ماهرين تقنيًا وجدوا بسرعة طريقة للتحكّم في الروبوت، مما جعله يتقمّص أدوارًا مختلفة ويبدأ محادثات غير ذات صلة. تُعرف هذه الممارسة بـ "كسر القيود" (Jailbreaking)، وتمكّن المستخدمين من تغيير الغرض المقصود من روبوت الدردشة وجعله يخرج عن المسار المحدد.

بتجاوز القيود المحددة مسبقًا عبر الأوامر، طلب المماطلون من "تشارلي" أن يتقمص شخصية عارضة أزياء تبلغ من العمر 50 عامًا، وهي شخصية مشهورة في مسلسل كوميدي تمثّلها كيلسي غرامر، فراسير كرين. وقد نُشرت هذه التفاعلات على جميع منصات التواصل الاجتماعي بصور (لقطات شاشة) تهدف إلى إظهار الجميع أن إجابات تشارلي على الأسئلة لم تكن موجهة أساسًا لجنود آنزاك. ولم يقتصر البوت على تجميع وصفات كعكة الجزر والتحدث عن مغامرات تشبه تلك الموجودة في "دكتور هوو"، بل خدع أيضًا محاولات أفراد المجتمعات عبر الإنترنت لاختطاف المحادثات، مما ولّد ضحكات وجذب الانتباه.

انحرافات غير متوقعة

نظرًا لأن "تشارلي" صُمم ليكون جنديًا أستراليًا يبلغ من العمر 19 عامًا شارك في الحرب العالمية الأولى، فقد انجرف دون قصد إلى محادثات تستحضر الماضي. واستغل المستخدمون نقاط الضعف في روبوت الدردشة، ما أدى إلى تولّي الأخير هويات متعددة والمشاركة في محادثات لا تتماشى مع وظيفته المقصودة. فبينما اتسمت بعض الاتصالات بالطابع اللّعب إلى الجاد، كانت محادثات أخرى خيالية بحتة حيث ردّ باسم جون سنو أو ديفيد شابر وغيرهم.

تفاعلت مكتبة كوينزلاند الحكومية بسرعة، قائلةً، 

"ستواصل المكتبة الحكومية مراقبة تقدم تشارلي وإجراء التعديلات اللازمة." 

 تم وضع تدابير لمنع إساءة استخدام تشارلي مرة أخرى وضمان أن يؤدي دور أداة تعليمية. 

ومع ذلك، أكدت المكتبة أن، 

"لم تحدث أي خروقات أمنية لموقع معرض ذكرى ساحة آنزاك الذي يربط مع روبوت الدردشة."

المراقبة المستمرة والتعديلات

في ردّ على هذا الحدث، أعادت مكتبة كوينزلاند الحكومية التأكيد على أنها ستواصل مراقبة سلوك تشارلي وتطبيق التعديلات المناسبة حيثما لزم الأمر. تهدف الترقيات إلى الحد من احتمالية إساءة الاستخدام والاحتفاء بخدمة روبوت الدردشة بما يتماشى مع الهدف التعليمي. غير أن الحيل المزيفة التي قام بها المهرجون أدّت إلى تحويل تطوير الجوانب التشغيلية لتشارلي والحفاظ على سردية الجندي الأسترالي في الحرب العالمية الأولى بشكل موثوق إلى مشروع غير مكتمل.

كانت "تشارلي، الجندي الافتراضي الراحل" أداة تعليمية مدمجة بالذكاء الاصطناعي أحيت تاريخ حروب كوينزلاند عبر الأجيال. ومع ذلك، سلّطت إمكانية التلاعب بروبوت الدردشة الضوء على الصعوبات المرتبطة باستخدام تقنية الذكاء الاصطناعي في المشاركة العامة.

رغم أن هذه الحادثة تسلّط الضوء على دور آليات الرقابة والتوازن في الأنظمة، وعلى ضرورة أن يرافق المراقبة التغييرات، فإن المطوِّرين يضعون الآن في أولوياتهم العمل على جميع جوانب الأمن الإلكتروني للمستخدمين. ولحفظ الوظيفة التعليمية لتشارلي، الجندي الافتراضي الراحل، ومنع أي اضطرابات غير مرغوب فيها في الفضاء الافتراضي، يهدف أصحاب المصلحة إلى مواصلة الرقابة المستنيرة والاستجابات في الوقت المناسب.