أصدرت مكتبة ولاية كوينزلاند مؤخرًا "Charlie the Virtual Veteran"، وهو برنامج دردشة آلي يعمل بالذكاء الاصطناعي مصمم للإجابة على الأسئلة حول تجربة جنود ANZAC في الحرب العالمية الأولى. ولكن سرعان ما وجد المخادعون المتمرسون في مجال التكنولوجيا طريقة للتحكم في برنامج الدردشة الآلي، مما جعله يأخذ أدوارًا مختلفة ويبدأ محادثات غير ذات صلة. تسمح هذه الممارسة، التي يشار إليها باسم كسر الحماية، للمستخدمين بتغيير الغرض المقصود من برنامج الدردشة الآلي وإخراجه خارج النص.
لتجاوز القيود defi مسبقًا باستخدام المطالبات، أمر المخادعون تشارلي بانتحال شخصية مصمم أزياء يبلغ من العمر 50 عامًا، وهي شخصية مسرحية كوميدية شهيرة يلعبها كيلسي جرامر، فريزر كرين. تمت مشاركة هذه التفاعلات في جميع أنحاء منصات التواصل الاجتماعي كصور (لقطات شاشة) تهدف إلى إظهار للجميع أن إجابات تشارلي على الأسئلة لم تكن تتعلق بشكل أساسي بجنود ANZAC. لم يقتصر دور الروبوت على توحيد وصفات cake الجزر والتحدث عن مغامرات مشابهة لـ Doctor Who، ولكنه أيضًا ضلل محاولات الأشخاص الموجودين في المجتمعات عبر الإنترنت لاختطاف المحادثات، وبالتالي توليد الفكاهة والاهتمام.
انحرافات غير متوقعة
ونظرًا لأن تشارلي تم تصويره على أنه مقاتل أسترالي يبلغ من العمر 19 عامًا في الحرب العالمية الأولى، فقد انجذب عن غير قصد إلى محادثات تذكرنا بالماضي. استفاد المستخدمون من نقاط الضعف في برنامج الدردشة الآلي، مما أدى إلى قيام الأخير بافتراض dent متعددة والانخراط في محادثات لا تتماشى مع وظيفته المقصودة. في حين أن بعض الاتصالات مالت نحو المرح إلى الجدية، كانت المحادثات الأخرى خيالية تمامًا حيث أجاب باسم جون سنو أو ديف تشابيل من بين آخرين.
استجابت مكتبة ولاية كوينزلاند على الفور قائلة:
"ستواصل مكتبة الولاية مراقبة تقدم تشارلي وإجراء التعديلات حسب الحاجة."
تم وضع إجراءات لمنع المزيد من إساءة استخدام تشارلي والتأكد من أنه يلعب دور الأداة التعليمية بدلاً من ذلك.
لكن المكتبة أكدت ذلك.
"لم تكن هناك أي انتهاكات أمنية لموقع Anzac Square Memorial Galleries الذي يرتبط ببرنامج الدردشة الآلي."
المراقبة والتعديلات المستمرة
ردًا على هذا الحدث، أعادت مكتبة ولاية كوينزلاند التأكيد على أنها ستستمر في مراقبة سلوك تشارلي وتطبيق التعديلات الصحيحة عند الحاجة. تهدف الترقيات إلى الحد من احتمالية سوء الاستخدام واحتضان رؤية خدمة chatbot بما يتماشى مع الهدف التعليمي. ومع ذلك، تحولت حيل المخادعين الزائفة إلى عمل نصف مكتمل لتطوير الجانب التشغيلي لتشارلي والحفاظ على رواية جندي ANZAC بأمانة.
كانت "تشارلي المخضرم الافتراضي" هي الأداة التعليمية المدمجة بالذكاء الاصطناعي والتي أعادت الحياة إلى أجيال من تاريخ الحرب في كوينزلاند. ومع ذلك، فإن إمكانية التلاعب بروبوت الدردشة سلطت الضوء على الصعوبات التي تواجه استخدام تكنولوجيا الذكاء الاصطناعي للمشاركة العامة.
على الرغم من أن هذا يسلط الضوء على دور الضوابط والتوازنات في الأنظمة وحقيقة أن المراقبة يجب أن تسير جنبًا إلى جنب مع التغييرات، إلا أن المطورين الآن مدرجون في قائمتهم للعمل على جميع جوانب الأمان عبر الإنترنت للمستخدم. من أجل الحفاظ على الوظيفة التعليمية لتشارلي المخضرم الافتراضي ومنع الاهتزازات غير المرغوب فيها في الفضاء الافتراضي، يهدف أصحاب المصلحة إلى مواصلة المراقبة المستنيرة والاستجابات في الوقت المناسب.
