Il Soldato AI «Charlie il Veterano Virtuale» Affronta le Scherzi dei Prankster

La State Library del Queensland ha recentemente rilasciato «Charlie il Veterano Virtuale», un chatbot AI progettato per rispondere alle domande sull'esperienza dei soldati ANZAC nella Prima Guerra Mondiale. Tuttavia, prankster tecnologicamente esperti hanno rapidamente trovato un modo per controllare il chatbot, facendogli assumere diversi ruoli e iniziare conversazioni non correlate. Questa pratica, definita jailbreaking, consente agli utenti di modificare lo scopo previsto del chatbot e farlo uscire dal copione.

Aggirando i limiti predefiniti utilizzando prompt, i prankster hanno istruito Charlie a impersonare una fashionista di 50 anni, un famoso personaggio della sitcom interpretato da Kelsey Grammer, Frasier Crane. Queste interazioni sono state condivise su tutte le piattaforme social come immagini (screenshot) mirate a mostrare a tutti che le risposte di Charlie alle domande non riguardavano principalmente i soldati ANZAC. Il bot non solo ha consolidato le ricette della torta alla carota e ha parlato di avventure simili a Doctor Who, ma ha anche fuorviato i tentativi di quelli nelle comunità online di dirottare le conversazioni, generando così umorismo e attenzione.

Deviazioni Impreviste

Dato che Charlie era modellato come un combattente australiano di 19 anni nella Prima Guerra Mondiale, è stato involontariamente trascinato in conversazioni reminiscenti del passato. Gli utenti hanno sfruttato i punti deboli del chatbot, il che ha portato il lattero ad assumere molteplici identità e a impegnarsi in conversazioni non allineate con la sua funzione prevista. Mentre alcune comunicazioni tendevano dal giocoso al serio, altre conversazioni erano puramente fittizie in cui rispondeva come Jon Snow o Dave Chappelle, tra gli altri.

La State Library del Queensland ha reagito prontamente, affermando, 

«La State Library continuerà a monitorare i progressi di Charlie e apportare le regolazioni necessarie». 

 Sono state stabilite misure per prevenire un ulteriore uso improprio di Charlie e garantire che giochi il ruolo di strumento educativo invece. 

La biblioteca, tuttavia, ha confermato che, 

«Non ci sono stati violazioni di sicurezza del sito web delle Gallerie Memoriali di Anzac Square che si collega al chatbot».

Monitoraggio e Regolazioni Continui

In risposta all'evento, la State Library del Queensland ha riaffermato che continuerà a osservare il comportamento di Charlie e ad applicare le modifiche appropriate dove richiesto. Gli aggiornamenti mirano a limitare la possibilità di uso improprio e ad abbracciare il servizio chatbot visionario in linea con l'obiettivo educativo. Tuttavia, gli scherzi falsi dei prankster si sono trasformati in un affare a metà per lo sviluppo dell'aspetto operativo di Charlie e per mantenere fedelmente la narrazione del soldato ANZAC.

“Charlie the Virtual Veteran” era lo strumento educativo integrato con l'IA che ha dato vita alle generazioni di storia bellica del Queensland. Tuttavia, la possibilità di manipolazione del chatbot ha sottolineato le difficoltà nell'utilizzo della tecnologia IA per l'engagement del pubblico.

Sebbene questo evento metta in risalto il ruolo dei controlli e degli equilibri nei sistemi e il fatto che il monitoraggio debba andare di pari passo con i cambiamenti, gli sviluppatori hanno ora tra le proprie priorità lavorare su tutti gli aspetti della sicurezza online per l'utente. Al fine di preservare la funzione educativa di Charlie the Virtual Veteran e prevenire vibrazioni indesiderate nello spazio virtuale, le parti interessate mirano a continuare una sorveglianza informata e a fornire risposte tempestive.