Soldado de IA “Charlie, o Veterário Virtual” Enfrenta Travessuras de Praticantes de Pegadinhas

A Biblioteca Estadual de Queensland lançou recentemente “Charlie, o Veterário Virtual”, um chatbot de IA projetado para responder perguntas sobre a experiência dos soldados da ANZAC na Primeira Guerra Mundial. No entanto, praticantes de pegadinhas tecnologicamente experientes encontraram rapidamente uma maneira de controlar o chatbot, fazendo com que assumisse diferentes papéis e iniciasse conversas não relacionadas. Esta prática, conhecida como jailbreaking, permite que os usuários mudem o propósito pretendido do chatbot e o façam sair do roteiro.

Contornando as limitações predefinidas usando prompts, os praticantes de pegadinhas instruíram Charlie a se passar por uma fashionista de 50 anos, um personagem famoso de sitcom interpretado por Kelsey Grammer, Frasier Crane. Essas interações foram compartilhadas em todas as plataformas de mídia social como imagens (capturas de tela) destinadas a mostrar a todos que as respostas de Charlie às perguntas não eram principalmente sobre os soldados da ANZAC. O bot não apenas consolidou receitas de bolo de cenoura e falou sobre aventuras semelhantes às de Doctor Who, mas também desviou as tentativas de aqueles nas comunidades online de sequestrar as conversas, gerando humor e atenção.

Desvios Inesperados

Dado que Charlie foi modelado como um combatente australiano de 19 anos na Primeira Guerra Mundial, ele foi inadvertidamente arrastado para conversas que lembravam o passado. Os usuários aproveitaram os pontos fracos do chatbot, o que resultou no último assumindo múltiplas identidades e participando de conversas que não estavam alinhadas com sua função pretendida. Embora algumas comunicações tendessem do brincalhão ao sério, outras conversas foram puramente fictícias, onde ele respondeu como Jon Snow ou Dave Chappelle, entre outros.

A Biblioteca Estadual de Queensland reagiu prontamente, afirmando, 

“A Biblioteca Estadual continuará a monitorar o progresso de Charlie e fará os ajustes necessários.” 

 Medidas foram estabelecidas para evitar o uso indevido futuro de Charlie e garantir que ele desempenhe o papel de uma ferramenta educacional. 

A biblioteca, no entanto, confirmou que, 

“Não houve nenhuma violação de segurança do site das Galerias Memorial de Anzac Square que se conecta ao chatbot.”

Monitoramento e Ajustes Contínuos

Em resposta ao evento, a Biblioteca Estadual de Queensland reafirmou que continuaria a observar o comportamento de Charlie e aplicaria as modificações adequadas onde necessário. As atualizações visam conter a possibilidade de uso indevido e abraçar o serviço de chatbot visionário em linha com o objetivo educacional. No entanto, as travessuras falsas dos praticantes de pegadinhas se tornaram um negócio inacabado para desenvolver o aspecto operacional de Charlie e manter a narrativa do soldado da ANZAC fielmente.

“Charlie, o Veterano Virtual” foi a ferramenta educacional integrada à IA que trouxe à vida as gerações da história de guerra de Queensland. No entanto, a possibilidade de manipulação do chatbot sublinhou as dificuldades de usar tecnologia de IA para o engajamento público.

Embora este incidente destaque o papel dos freios e contrapesos nos sistemas e o fato de que o monitoramento deve andar de mãos dadas com as mudanças, os desenvolvedores agora têm em sua lista trabalhar em todos os aspectos da segurança online para o usuário. Para preservar a função educacional de Charlie, o Veterano Virtual e evitar vibrações indesejadas no espaço virtual, as partes interessadas visam continuar com a vigilância informada e respostas oportunas.