Il soldato AI "Charlie il veterano virtuale" affronta le buffonate degli scherzi

La Biblioteca di Stato del Queensland ha recentemente rilasciato "Charlie the Virtual Veteran", un chatbot basato sull'intelligenza artificiale progettato per rispondere a domande sull'esperienza dei soldati dell'ANZAC nella Prima Guerra Mondiale. Tuttavia, alcuni esperti di tecnologia hanno rapidamente trovato un modo per controllare il chatbot, facendogli assumere ruoli diversi e avviare conversazioni non correlate. Questa pratica, nota come jailbreaking, consente agli utenti di modificare lo scopo del chatbot e di estrapolarlo dal copione.

Aggirando le limitazionidefitramite prompt, alcuni burloni hanno chiesto a Charlie di impersonare una fashionista cinquantenne, un famoso personaggio di sitcom interpretato da Kelsey Grammer, Frasier Crane. Queste interazioni sono state condivise su tutte le piattaforme dei social media sotto forma di immagini (screenshot) volte a mostrare a tutti che le risposte di Charlie alle domande non riguardavano principalmente i soldati dell'ANZAC. Il bot non solo ha riunito ricette cake di carote e parlato di avventure simili a quelle di Doctor Who, ma ha anche fuorviato i tentativi di chi, nelle community online, cercava di dirottare le conversazioni, generando così umorismo e attenzione.

Divertimenti imprevisti

Dato che Charlie era stato modellato come un combattente australiano diciannovenne nella Prima Guerra Mondiale, è stato inavvertitamente coinvolto in conversazioni che ricordavano il passato. Gli utenti hanno sfruttato i punti deboli del chatbot, facendo sì che assumessedentmultiple e si impegnasse in conversazioni non in linea con la sua funzione. Mentre alcune comunicazioni tendevano al giocoso o al serio, altre conversazioni erano puramente fittizie, in cui rispondeva come Jon Snow o Dave Chapelle, tra gli altri.

La Biblioteca di Stato del Queensland ha reagito prontamente, affermando: 

"La Biblioteca di Stato continuerà a monitorare i progressi di Charlie e ad apportare le modifiche necessarie." 

 Sono state adottate misure per impedire ulteriori abusi nei confronti di Charlie e per garantire che svolga invece il ruolo di strumento educativo. 

La biblioteca, tuttavia, ha confermato che, 

"Non si sono verificate violazioni della sicurezza del sito web dell'Anzac Square Memorial Galleries che rimanda al chatbot."

Monitoraggio e aggiustamenti continui

In risposta all'evento, la Biblioteca di Stato del Queensland ha ribadito che avrebbe continuato a monitorare il comportamento di Charlie e ad apportare le opportune modifiche laddove necessario. Gli aggiornamenti mirano a ridurre la possibilità di abusi e ad adottare il servizio di chatbot in linea con l'obiettivo educativo. Tuttavia, i falsi scherzi dei burloni si sono trasformati in un'impresa a metà per lo sviluppo dell'aspetto operativo di Charlie e per il mantenimento fedele della narrazione del soldato ANZAC.

"Charlie the Virtual Veteran" è stato lo strumento educativo integrato con l'intelligenza artificiale che ha dato vita a generazioni di storia bellica del Queensland. Tuttavia, la possibilità di manipolazione del chatbot ha evidenziato le difficoltà nell'utilizzo dell'intelligenza artificiale per il coinvolgimento del pubblico.

Sebbene questo evento evidenzi il ruolo dei controlli e degli equilibri nei sistemi e il fatto che il monitoraggio debba andare di pari passo con i cambiamenti, gli sviluppatori hanno ora in programma di lavorare su tutti gli aspetti della sicurezza online per l'utente. Per preservare la funzione educativa di Charlie the Virtual Veteran e prevenire vibrazioni indesiderate nello spazio virtuale, le parti interessate mirano a garantire una sorveglianza informata e risposte tempestive.