Die Staatsbibliothek von Queensland veröffentlichte kürzlich „Charlie, den virtuellen Veteranen“, einen KI-Chatbot, der Fragen zu den Erlebnissen der ANZAC-Soldaten im Ersten Weltkrieg beantworten soll. Technisch versierte Scherzbolde fanden jedoch schnell einen Weg, den Chatbot zu manipulieren, ihn in verschiedene Rollen zu versetzen und themenfremde Gespräche zu beginnen. Dieses Vorgehen, bekannt als Jailbreaking, ermöglicht es den Nutzern, den eigentlichen Zweck des Chatbots zu verändern und ihn vom vorgegebenen Skript abweichen zu lassen.
MithilfedefiAnweisungen umgingen Scherzbolde Charlie und brachten ihn dazu, eine 50-jährige Fashionista zu imitieren – eine bekannte Sitcom-Figur, gespielt von Kelsey Grammer, Frasier Crane. Diese Interaktionen wurden als Screenshots in den sozialen Medien geteilt, um zu zeigen, dass Charlies Antworten nicht nur von ANZAC-Soldaten handelten. Der Bot sammelte nicht nur cake und erzählte von Abenteuern ähnlich wie in Doctor Who, sondern vereitelte auch die Versuche von Nutzern in Online-Communities, die Konversationen zu kapern, und sorgte so für Heiterkeit und Aufmerksamkeit.
Unvorhergesehene Umleitungen
Da Charlie als 19-jähriger australischer Soldat des Ersten Weltkriegs modelliert wurde, geriet er ungewollt in Gespräche, die an die Vergangenheit erinnerten. Nutzer nutzten die Schwächen des Chatbots aus, was dazu führte, dass dieser mehreredentannahm und sich in Konversationen verwickelte, die nicht seiner eigentlichen Funktion entsprachen. Während manche Kommunikationen zwischen spielerisch und ernst schwankten, waren andere rein fiktiv, in denen er unter anderem als Jon Snow oder Dave Chappelle antwortete.
Die Staatsbibliothek von Queensland reagierte umgehend und erklärte:
„Die Staatsbibliothek wird Charlies Fortschritte weiterhin beobachten und gegebenenfalls Anpassungen vornehmen.“
Es wurden Maßnahmen ergriffen, um einen weiteren Missbrauch von Charlie zu verhindern und sicherzustellen, dass er stattdessen als Lehrmittel dient.
Die Bibliothek bestätigte jedoch,
„Es gab keine Sicherheitslücken auf der Website der Anzac Square Memorial Galleries, die mit dem Chatbot verlinkt ist.“
Kontinuierliche Überwachung und Anpassungen
Als Reaktion auf den Vorfall bekräftigte die Staatsbibliothek von Queensland, dass sie Charlies Verhalten weiterhin beobachten und gegebenenfalls Anpassungen vornehmen werde. Die Aktualisierungen sollen Missbrauch verhindern und den Chatbot-Dienst im Einklang mit dem Bildungsziel weiterentwickeln. Die Scherze von Unbekannten beeinträchtigten jedoch die Weiterentwicklung von Charlies Funktionalität und die authentische Darstellung der ANZAC-Soldaten.
„Charlie, der virtuelle Veteran“ war ein KI-gestütztes Bildungstool, das Generationen von Queenslands Kriegsgeschichte lebendig werden ließ. Die Möglichkeit der Manipulation des Chatbots verdeutlichte jedoch die Schwierigkeiten beim Einsatz von KI-Technologie für die Öffentlichkeitsarbeit.
Obwohl dieses Ereignis die Bedeutung von Kontrollmechanismen in den Systemen und die Notwendigkeit der fortlaufenden Überwachung unterstreicht, müssen die Entwickler nun alle Aspekte der Online-Sicherheit für die Nutzer verbessern. Um die pädagogische Funktion von Charlie, dem virtuellen Veteranen, zu erhalten und unerwünschte Entwicklungen im virtuellen Raum zu verhindern, streben die Beteiligten eine informierte Überwachung und zeitnahe Reaktionen an.
