昆士兰州立图书馆最近发布了名为“虚拟老兵查理”的人工智能聊天机器人，旨在回答有关澳新军团士兵在一战中经历的问题。然而，一些精通技术的恶作剧者很快找到了控制该聊天机器人的方法，使其扮演不同的角色并展开毫不相关的对话。这种被称为“越狱”的行为允许用户改变聊天机器人的预期用途，使其脱离预设脚本。.
通过提示绕过defi的限制，恶作剧者指示查理模仿一位50岁的时尚达人，也就是凯尔西·格拉默在著名情景喜剧《欢乐一家亲》（Frasier Crane）中饰演的角色。这些互动以图片（截图）的形式在社交媒体平台上广泛传播，旨在向所有人展示查理的回答并非主要围绕澳新军团士兵展开。这个机器人不仅整理了胡萝卜 cake 食谱，还谈论了类似《神秘博士》（Doctor Who）的冒险故事，甚至误导了那些试图劫持网络社区对话的人，从而制造了笑料并吸引了人们的关注。.
意料之外的变故
由于查理被设定为一名参加过第一次世界大战的19岁澳大利亚士兵，他无意间卷入了一些与历史相关的对话。用户利用了聊天机器人的弱点，导致他冒充多个dent，参与了一些与其预期功能不符的对话。有些交流从轻松玩笑到严肃讨论不等，而另一些对话则完全是虚构的，比如他以琼恩·雪诺或戴夫·查普尔等人的身份回复。.
昆士兰州立图书馆迅速做出反应，声明如下：
“州立图书馆将继续关注查理的康复进展，并根据需要做出调整。”
已制定措施防止查理进一步被滥用，并确保他发挥教育工具的作用。.
然而，图书馆证实了这一点：
“与聊天机器人链接的澳新军团广场纪念馆网站没有发生任何安全漏洞。”
持续监测和调整
针对此次事件，昆士兰州立图书馆重申，将继续密切关注查理的运行情况，并在必要时进行相应的调整。升级旨在遏制滥用的可能性，并使聊天机器人服务更好地服务于教育目标。然而，恶作剧者的拙劣伎俩却阻碍了查理功能开发和忠实还原澳新军团士兵故事的进程。.
“虚拟老兵查理”是一款集成了人工智能的教育工具，它生动地展现了昆士兰几代人的战争历史。然而，聊天机器人可能被操控的问题凸显了利用人工智能技术进行公众参与的难度。.
尽管此次事件凸显了系统中制衡机制的重要性，以及监控必须与变革齐头并进的事实，但开发人员现在已将用户在线安全各个方面的工作列入了工作清单。为了维护“虚拟老兵查理”的教育功能，并防止虚拟空间出现不良影响，各利益相关方致力于开展知情监控并及时应对。.
