State Library of Queensland släppte nyligen "Charlie the Virtual Veteran", en AI-chatbot som är designad för att svara på frågor om upplevelsen av ANZAC-soldater under första världskriget. Men tekniskt kunniga skojare hittade snabbt ett sätt att kontrollera chatboten, vilket fick den att ta olika roller och starta orelaterade konversationer. Denna praxis, kallad jailbreaking, tillåter användarna att ändra det avsedda syftet med chatboten och få det off-script.
Genom att kringgå defi begränsningar med hjälp av uppmaningar instruerade skojarna Charlie att imitera en 50-årig fashionista, en berömd sitcomkaraktär som spelas av Kelsey Grammer, Frasier Crane. Dessa interaktioner delades över hela sociala medieplattformar som bilder (skärmdumpar) som syftade till att visa alla att Charlies svar på frågor inte huvudsakligen handlade om ANZAC-soldater. Boten konsoliderade inte bara cake och pratade om äventyr som liknade Doctor Who, utan den vilseledde också försöken från personer i online-communities att kapa konversationerna, vilket genererade humor och uppmärksamhet.
Oväntade avledningar
Med tanke på att Charlie modellerades som en australisk 19-årig kombattant under första världskriget, drogs han oavsiktligt in i konversationer som påminde om det förflutna. Användare drog fördel av chatbotens svaga punkter vilket resulterade i att den senare antog flera dent och engagerade sig i konversationer som inte var i linje med dess avsedda funktion. Medan vissa kommunikationer lutade mot lekfull till serös, var andra konversationer rent fiktiva där han svarade som Jon Snow eller Dave Chapelle bland andra.
State Library of Queensland reagerade snabbt och angav,
"Statsbiblioteket kommer att fortsätta att övervaka Charlies framsteg och göra justeringar vid behov."
Åtgärder vidtogs för att förhindra ytterligare missbruk av Charlie och se till att han spelar rollen som ett pedagogiskt verktyg istället.
Biblioteket bekräftade dock att
"Det har inte förekommit några säkerhetsintrång på webbplatsen Anzac Square Memorial Galleries som länkar till chatboten."
Kontinuerlig övervakning och justeringar
Som svar på händelsen bekräftade State Library of Queensland att de skulle fortsätta att vaka över Charlies beteende och tillämpa de rätta ändringarna där så krävs. Uppgraderingar är avsedda att begränsa möjligheten till missbruk och att omfamna chatbottjänsten visionärt i linje med utbildningsmålet. Men skojarnas falska trick förvandlades till en halvfärdig affär för att utveckla Charlies operativa aspekt och troget upprätthålla ANZAC-soldatens berättelse.
"Charlie the Virtual Veteran" var det AI-integrerade utbildningsverktyget som väckte liv i generationer av Queenslands krigshistoria. Ändå underströk möjligheten att manipulera chatboten svårigheterna med att använda AI-teknik för offentligt engagemang.
Även om denna händelse belyser rollen av kontroller och balanser i systemen och det faktum att övervakning måste gå hand i hand med förändringarna, har utvecklarna nu på sin lista att arbeta med alla aspekter av onlinesäkerheten för användaren. För att bevara den pedagogiska funktionen hos Charlie the Virtual Veteran och förhindra oönskade vibrationer i det virtuella utrymmet, strävar intressenter efter att fortsätta informerad övervakning och snabba svar.
