El soldado de inteligencia artificial "Charlie, el veterano virtual" se enfrenta a las travesuras de los bromistas

La Biblioteca Estatal de Queensland lanzó recientemente "Charlie, el Veterano Virtual", un chatbot con IA diseñado para responder preguntas sobre la experiencia de los soldados de ANZAC en la Primera Guerra Mundial. Sin embargo, bromistas expertos en tecnología encontraron rápidamente la manera de controlar el chatbot, obligándolo a asumir diferentes roles e iniciar conversaciones sin relación alguna. Esta práctica, conocida como jailbreaking, permite a los usuarios cambiar el propósito del chatbot y desviarlo del guion.

Evitando las limitacionesdefimediante indicaciones, los bromistas le pidieron a Charlie que se hiciera pasar por un fashionista de 50 años, un famoso personaje de comedia interpretado por Kelsey Grammer, Frasier Crane. Estas interacciones se compartieron en redes sociales como imágenes (capturas de pantalla) para mostrar a todos que las respuestas de Charlie a las preguntas no se referían principalmente a soldados de ANZAC. El bot no solo reunía recetas cake de zanahoria y hablaba de aventuras similares a las de Doctor Who, sino que también desviaba la atención de las comunidades en línea, intentando secuestrar las conversaciones, generando humor y atención.

Desviaciones imprevistas

Dado que Charlie fue modelado como un combatiente australiano de 19 años en la Primera Guerra Mundial, se vio inadvertidamente involucrado en conversaciones que recordaban al pasado. Los usuarios aprovecharon las debilidades del chatbot, lo que provocó que este asumiera múltiplesdenty participara en conversaciones que no se ajustaban a su función. Mientras que algunas comunicaciones eran entre lúdicas y serias, otras eran pura ficción, donde respondía como Jon Snow o Dave Chapelle, entre otros.

La Biblioteca Estatal de Queensland reaccionó rápidamente, declarando: 

“La Biblioteca Estatal continuará monitoreando el progreso de Charlie y realizará los ajustes necesarios” 

 Se establecieron medidas para evitar un mayor uso indebido de Charlie y garantizar que desempeñe el papel de una herramienta educativa. 

La biblioteca, sin embargo, confirmó que, 

“No se han producido violaciones de seguridad en el sitio web de Anzac Square Memorial Galleries que enlaza con el chatbot”

Monitoreo y ajustes continuos

En respuesta al evento, la Biblioteca Estatal de Queensland reafirmó que seguiría supervisando el comportamiento de Charlie y aplicaría las modificaciones pertinentes cuando fuera necesario. Las mejoras buscan reducir la posibilidad de mal uso y adaptar el servicio de chatbot a la visión de futuro, en consonancia con el objetivo educativo. Sin embargo, las artimañas de los bromistas resultaron ser un asunto a medias para el desarrollo del aspecto operativo de Charlie y para mantener fielmente la narrativa del soldado de ANZAC.

"Charlie, el Veterano Virtual" fue la herramienta educativa con IA integrada que dio vida a generaciones de la historia bélica de Queensland. Sin embargo, la posibilidad de manipulación del chatbot subrayó las dificultades de usar la IA para la participación ciudadana.

Si bien este suceso pone de relieve la importancia de los controles y contrapesos en los sistemas y el hecho de que la monitorización debe ir de la mano con los cambios, los desarrolladores ahora tienen entre sus prioridades trabajar en todos los aspectos de la seguridad en línea del usuario. Para preservar la función educativa de Charlie, el Veterano Virtual, y evitar vibraciones indeseables en el espacio virtual, las partes interesadas buscan mantener una vigilancia informada y respuestas oportunas.