AI士兵“虚拟老兵查理”遭遇恶作剧者的恶作剧

昆士兰州立图书馆最近发布了“虚拟老兵查理”，这是一个旨在回答关于一战期间澳新军团士兵经历的AI聊天机器人。然而，精通技术的恶作剧者很快找到了控制聊天机器人的方法，使其扮演不同的角色并开启无关的对话。这种做法被称为“越狱”，允许用户改变聊天机器人的预期用途并使其偏离既定脚本。

通过提示绕过预定义的局限性，恶作剧者指示查理模仿一位50岁的时尚达人，或是凯尔西·格拉默饰演的著名情景喜剧角色弗雷泽·克莱恩。这些互动在社交媒体平台上广泛传播，以截图形式向所有人展示查理的问答内容主要并非关于澳新军团士兵。该机器人不仅整理了胡萝卜蛋糕的食谱，还谈论了类似《神秘博士》的冒险经历，甚至误导了在线社区中试图劫持对话的人，从而产生了幽默和关注。

意想不到的岔路

鉴于查理被设定为一战期间一名19岁的澳大利亚战斗人员，他无意中陷入了让人联想到过去的对话中。用户利用了聊天机器人的弱点，导致后者承担多重身份并参与与其预期功能不符的对话。虽然有些交流从 playful 转向严肃，但其他对话则是纯粹的虚构，他回复时扮演乔恩·雪诺或戴夫·查佩尔等角色。

昆士兰州立图书馆迅速做出反应，表示： 

“昆士兰州立图书馆将继续监控查理的进展，并根据需要进行调整。” 

 已采取措施防止查理的进一步滥用，并确保其发挥教育工具的作用。 

然而，图书馆确认： 

“链接到聊天机器人的安扎克广场纪念画廊网站未发生任何安全漏洞。”

持续监控与调整

对此事件做出回应，昆士兰州立图书馆重申，将继续监督查理的行为并在必要时进行适当修改。升级旨在遏制滥用的可能性，并使聊天机器人服务愿景符合教育目标。然而，恶作剧者的虚假伎俩变成了开发查理运营方面和维护澳新军团士兵叙事忠实性的未完成业务。

“虚拟老兵查理”是一个集成AI的教育工具，让昆士兰州几代人的战争历史栩栩如生。尽管如此，聊天机器人可能被操纵的可能性凸显了利用AI技术进行公众参与的困难。

虽然这一事件凸显了系统中制衡的作用，以及监控必须与变更同步进行，但开发人员现在将工作重点放在用户在线安全的各个方面。为了保持“虚拟老兵查理”的教育功能并防止虚拟空间中的不良震动，利益相关者旨在继续进行知情监控和及时响应。