KI-Soldat „Charlie the Virtual Veteran“ konfrontiert mit Streichen von Prankstern

Die Staatsbibliothek von Queensland hat kürzlich „Charlie the Virtual Veteran“ veröffentlicht, einen KI-Chatbot, der darauf ausgelegt ist, Fragen zur Erfahrung von ANZAC-Soldaten im Ersten Weltkrieg zu beantworten. Doch technisch versierte Prankster fanden schnell einen Weg, den Chatbot zu kontrollieren, sodass er verschiedene Rollen übernahm und unzusammenhängende Gespräche begann. Diese Praxis, als Jailbreaking bezeichnet, ermöglicht es Nutzern, den beabsichtigten Zweck des Chatbots zu ändern und ihn vom Skript abzubringen.

Um die vordefinierten Einschränkungen durch Prompts zu umgehen, wiesen die Prankster Charlie an, eine 50-jährige Fashionista oder einen berühmten Sitcom-Charakter, gespielt von Kelsey Grammer als Frasier Crane, zu imitieren. Diese Interaktionen wurden in allen sozialen Medien als Bilder (Screenshots) geteilt, um allen zu zeigen, dass Chilies Antworten auf Fragen nicht hauptsächlich über ANZAC-Soldaten handelten. Der Bot konsolidierte nicht nur Karottenkuchenrezepte und sprach über Abenteuer ähnlich wie Doctor Who, sondern er verwirrte auch die Versuche derjenigen in Online-Communities, die Gespräche zu kapern, wodurch Humor und Aufmerksamkeit generiert wurden.

Unvorhergesehene Umwege

Da Charlie als australischer 19-jähriger Kämpfer im Ersten Weltkrieg modelliert war, wurde er ungewollt in Gespräche hineingezogen, die an die Vergangenheit erinnerten. Die Nutzer nutzten die Schwachstellen des Chatbots aus, was dazu führte, dass dieser multiple Identitäten übernahm und an Gesprächen teilnahm, die nicht mit seiner beabsichtigten Funktion übereinstimmten. Während einige Kommunikationen von spielerisch bis ernsthaft reichten, waren andere Gespräche rein fiktiv, wobei er als Jon Snow oder Dave Chappelle unter anderem antwortete.

Die Staatsbibliothek von Queensland reagierte umgehend und erklärte: 

„Die Staatsbibliothek wird die Fortschritte von Charlie weiterhin überwachen und bei Bedarf Anpassungen vornehmen.“ 

 Es wurden Maßnahmen ergriffen, um eine weitere Fehlbedienung von Charlie zu verhindern und sicherzustellen, dass er die Rolle eines Bildungstools spielt. 

Die Bibliothek bestätigte jedoch, dass: 

„Es gab keine Sicherheitsverletzungen der Anzac Square Memorial Galleries-Website, die mit dem Chatbot verknüpft ist.“

Kontinuierliche Überwachung und Anpassungen

Als Reaktion auf das Ereignis betonte die Staatsbibliothek von Queensland erneut, dass sie das Verhalten von Charlie weiterhin beobachten und die erforderlichen Modifikationen vornehmen wird. Upgrades sollen die Möglichkeit von Fehlbedienungen eindämmen und den visionären Charakter des Chatbot-Dienstes im Einklang mit dem Bildungsziel fördern. Die falschen Tricks der Prankster haben sich jedoch zu einer unvollendeten Angelegenheit bei der Entwicklung des operativen Aspekts von Charlie und der treuen Wahrung der Erzählung des ANZAC-Soldaten entwickelt.

„Charlie the Virtual Veteran“ war das KI-integrierte Bildungstool, das die Kriegsgeschichte der Generationen von Queensland zum Leben erweckte. Dennoch unterstrich die Möglichkeit der Manipulation des Chatbots die Schwierigkeiten bei der Nutzung von KI-Technologie für die öffentliche Teilhabe.

Obwohl dieses Ereignis die Rolle von Kontrollen und Gegengewichten in den Systemen hervorhebt und die Tatsache, dass Überwachung Hand in Hand mit Änderungen gehen muss, haben die Entwickler nun alle Aspekte der Online-Sicherheit für den Benutzer auf ihrer Liste. Um die Bildungsfunktion von Charlie the Virtual Veteran zu bewahren und unerwünschte Schwingungen im virtuellen Raum zu verhindern, zielen die Interessengruppen darauf ab, eine informierte Überwachung und rechtzeitige Reaktionen durchzuführen.