أصدرت مكتبة ولاية كوينزلاند مؤخرًا برنامج "تشارلي المحارب الافتراضي"، وهو روبوت محادثة يعمل بالذكاء الاصطناعي، مصمم للإجابة عن أسئلة حول تجربة جنود أنزاك في الحرب العالمية الأولى. لكن سرعان ما وجد بعض المستخدمين الملمين بالتكنولوجيا طريقة للتحكم في الروبوت، مما جعله يتخذ أدوارًا مختلفة ويبدأ محادثات لا علاقة لها بالموضوع. تُعرف هذه الممارسة باسم "كسر الحماية"، وتتيح للمستخدمين تغيير الغرض المقصود من الروبوت وإخراجه عن النص المُعدّ له.
باستخدام أوامر مُسبقة، تجاوز المُشاغبون القيودdefiمُسبقًا، وأمروا تشارلي بانتحال شخصية فريزر كرين، وهو شخصية كوميدية شهيرة من مسلسل كوميدي، يؤديها كيلسي جرامر. انتشرت هذه التفاعلات على نطاق واسع عبر منصات التواصل الاجتماعي كصور (لقطات شاشة) لإظهار أن إجابات تشارلي على الأسئلة لم تكن مُقتصرة على جنود أنزاك. لم يقتصر دور الروبوت على جمع وصفات cake الجزر والحديث عن مغامرات تُشبه مسلسل دكتور هو، بل نجح أيضًا في تضليل محاولات رواد المنتديات الإلكترونية للسيطرة على المحادثات، مما أثار موجة من الفكاهة والاهتمام.
تحويلات غير متوقعة
بما أن شخصية تشارلي صُممت على هيئة مقاتل أسترالي يبلغ من العمر 19 عامًا في الحرب العالمية الأولى، فقد انجذب دون قصد إلى محادثات تُذكّر بالماضي. استغل المستخدمون نقاط ضعف برنامج الدردشة الآلي، مما أدى إلى انتحالهdentمتعددة وانخراطه في محادثات لا تتوافق مع وظيفته المُصممة لها. وبينما اتسمت بعض المحادثات بالمرح والجدية، كانت محادثات أخرى خيالية تمامًا، حيث كان يردّ فيها بشخصيات مثل جون سنو أو ديف تشابيل، وغيرهما.
ردت مكتبة ولاية كوينزلاند على الفور، قائلةً:
"ستواصل مكتبة الولاية مراقبة تقدم حالة تشارلي وإجراء التعديلات اللازمة."
تم وضع تدابير لمنع المزيد من إساءة استخدام تشارلي وضمان أن يلعب دور أداة تعليمية بدلاً من ذلك.
لكن المكتبة أكدت ذلك
"لم تحدث أي خروقات أمنية لموقع معارض أنزاك سكوير التذكارية الذي يرتبط ببرنامج الدردشة الآلي."
المراقبة والتعديلات المستمرة
رداً على الحادثة، أكدت مكتبة ولاية كوينزلاند مجدداً أنها ستواصل مراقبة سلوك برنامج تشارلي وتطبيق التعديلات اللازمة عند الحاجة. تهدف التحديثات إلى الحد من احتمالية إساءة الاستخدام، وإلى دمج خدمة الدردشة الآلية المبتكرة بما يتماشى مع الهدف التعليمي. مع ذلك، تحولت حيل المخادعين إلى مشروع غير مكتمل لتطوير الجانب التشغيلي لبرنامج تشارلي والحفاظ على سردية جندي أنزاك بأمانة.
كان "تشارلي المحارب الافتراضي" أداة تعليمية مُدمجة بالذكاء الاصطناعي، أحيت تاريخ حروب كوينزلاند لأجيال. ومع ذلك، فإن إمكانية التلاعب ببرنامج الدردشة الآلي أبرزت صعوبات استخدام تقنية الذكاء الاصطناعي في التفاعل مع الجمهور.
على الرغم من أن هذا الحدث يُسلط الضوء على دور الضوابط والتوازنات في الأنظمة، وعلى ضرورة مواكبة المراقبة للتغييرات، إلا أن المطورين باتوا يعملون على جميع جوانب أمن المستخدم على الإنترنت. وللحفاظ على الوظيفة التعليمية لشخصية "تشارلي المحارب الافتراضي" ومنع أي اضطرابات في الفضاء الافتراضي، يسعى المعنيون إلى مواصلة المراقبة الدقيقة والاستجابة الفورية.
