Die State Library of Queensland hat kürzlich „Charlie the Virtual Veteran“ veröffentlicht, einen KI-Chatbot, der Fragen zu den Erfahrungen von ANZAC-Soldaten im Ersten Weltkrieg beantworten soll. Aber technisch versierte Witzbolde fanden schnell einen Weg, den Chatbot zu steuern, indem sie ihn dazu brachten, verschiedene Rollen einzunehmen und unzusammenhängende Gespräche zu beginnen. Diese als Jailbreaking bezeichnete Praxis ermöglicht es den Benutzern, den beabsichtigten Zweck des Chatbots zu ändern und ihn außerhalb des Skripts zu verwenden.
Unter Umgehung defi Einschränkungen und mithilfe von Eingabeaufforderungen forderten Scherze Charlie auf, sich als 50-jährige Modefanatikerin auszugeben, eine berühmte Sitcom-Figur, gespielt von Kelsey Grammer, Frasier Crane. Diese Interaktionen wurden auf allen Social-Media-Plattformen als Bilder (Screenshots) geteilt, um allen zu zeigen, dass es bei Charlies Antworten auf Fragen nicht hauptsächlich um ANZAC-Soldaten ging. Der Bot konsolidierte nicht nur cake und sprach über ähnliche Abenteuer wie Doctor Who, sondern täuschte auch die Versuche von Online-Communities, die Gespräche zu kapern, und erzeugte so Humor und Aufmerksamkeit.
Unerwartete Ablenkungen
Da Charlie als australischer 19-jähriger Kämpfer im Ersten Weltkrieg dargestellt wurde, wurde er ungewollt in Gespräche verwickelt, die an die Vergangenheit erinnerten. Nutzer nutzten die Schwachstellen des Chatbots aus, was dazu führte, dass dieser mehrere dent annahm und Gespräche führte, die nicht seiner beabsichtigten Funktion entsprachen. Während einige Kommunikation eher spielerisch bis seriös wirkten, waren andere Gespräche rein fiktiv und er antwortete unter anderem als Jon Snow oder Dave Chapelle.
Die State Library of Queensland reagierte umgehend und erklärte:
„Die Staatsbibliothek wird Charlies Fortschritte weiterhin überwachen und bei Bedarf Anpassungen vornehmen.“
Es wurden Maßnahmen ergriffen, um einen weiteren Missbrauch von Charlie zu verhindern und sicherzustellen, dass er stattdessen die Rolle eines pädagogischen Hilfsmittels übernimmt.
Die Bibliothek bestätigte jedoch, dass
„Es gab keine Sicherheitsverletzungen auf der Website der Anzac Square Memorial Galleries, die auf den Chatbot verlinkt.“
Kontinuierliche Überwachung und Anpassungen
Als Reaktion auf den Vorfall bekräftigte die State Library of Queensland, dass sie Charlies Verhalten weiterhin überwachen und bei Bedarf die richtigen Änderungen vornehmen werde. Durch Upgrades soll die Möglichkeit eines Missbrauchs eingedämmt und der Visionär des Chatbot-Dienstes im Einklang mit dem Bildungsziel verankert werden. Die falschen Tricks der Scherze erwiesen sich jedoch als halbfertige Angelegenheit, um Charlies operativen Aspekt zu entwickeln und die Erzählung des ANZAC-Soldaten getreu aufrechtzuerhalten.
„Charlie, der virtuelle Veteran“ war das KI-integrierte Bildungstool, das Generationen der Kriegsgeschichte Queenslands zum Leben erweckte. Dennoch verdeutlichte die Möglichkeit einer Manipulation des Chatbots die Schwierigkeiten beim Einsatz von KI-Technologie für die Öffentlichkeitsbeteiligung.
Obwohl dieser Vorfall die Rolle von Checks and Balances in den Systemen und die Tatsache, dass die Überwachung mit den Änderungen einhergehen muss, in den Vordergrund rückt, haben die Entwickler nun auf ihrer Liste, an allen Aspekten der Online-Sicherheit für den Benutzer zu arbeiten. Um die pädagogische Funktion von Charlie, dem virtuellen Veteranen, aufrechtzuerhalten und unerwünschte Vibrationen im virtuellen Raum zu verhindern, streben die Beteiligten eine fundierte Überwachung und zeitnahe Reaktionen an.
