昆士兰州立图书馆最近发布了“虚拟退伍军人查理”，这是一个人工智能聊天机器人，旨在回答有关第一次世界大战中澳新军团士兵经历的问题。 但是，精通技术的恶作剧者很快找到了一种控制聊天机器人的方法，使其扮演不同的角色并开始不相关的对话。 这种做法称为越狱，允许用户更改聊天机器人的预期用途并使其脱离脚本。
恶作剧者利用提示绕过预先defi的限制，指示查理模仿一位 50 岁的时尚达人，这是由凯尔西·格拉默 (Kelsey Grammer) 扮演的著名情景喜剧角色弗雷泽·克莱恩 (Frasier Crane)。 这些互动在社交媒体平台上被分享为图片（截图），旨在向大家表明查理对问题的回答主要不是关于澳新军团士兵的。 该机器人不仅整合了胡萝卜cake食谱并谈论了类似于神秘博士的冒险，而且还误导了在线社区中试图劫持对话的人，从而产生幽默和关注。
意外的改道
鉴于查理被塑造为第一次世界大战中一名 19 岁的澳大利亚战士，他无意中被卷入了回忆过去的对话中。 用户利用了聊天机器人的弱点，导致后者具有多重dent并参与与其预期功能不相符的对话。 虽然有些交流倾向于开玩笑或严肃，但其他对话纯粹是虚构的，他以琼恩·雪诺或戴夫·查佩尔等人的身份回复。
昆士兰州立图书馆迅速做出反应，表示：
“州立图书馆将继续监控查理的进展并根据需要进行调整。”
我们制定了措施，防止查理进一步被滥用，并确保他发挥教育工具的作用。
不过，图书馆证实，
“链接到聊天机器人的安扎克广场纪念画廊网站没有发生任何安全漏洞。”
持续监控和调整
针对这一事件，昆士兰州立图书馆重申，将继续关注查理的行为，并在需要时进行正确的修改。 升级旨在遏制误用的可能性，并根据教育目标拥抱聊天机器人服务的愿景。 然而，为了发展查理的作战能力和忠实地维持澳新军团士兵的叙述，恶作剧者的骗局变成了半成品。
“虚拟退伍军人查理”是一款人工智能集成教育工具，让昆士兰几代人的战争历史栩栩如生。 然而，聊天机器人被操纵的可能性凸显了利用人工智能技术进行公众参与的困难。
尽管这种情况的发生凸显了系统中制衡的作用以及监控必须与变化齐头并进的事实，但开发人员现在已经在他们的名单上致力于为用户提供在线安全的各个方面。 为了保护虚拟退伍军人查理的教育功能并防止虚拟空间中出现不良振动，利益相关者旨在进行知情监视和及时响应。
