La Biblioteca Estatal de Queensland lanzó recientemente "Charlie, el veterano virtual", un chatbot de inteligencia artificial diseñado para responder preguntas sobre la experiencia de los soldados del ANZAC en la Primera Guerra Mundial. Pero los bromistas con conocimientos tecnológicos rápidamente encontraron una manera de controlar el chatbot, haciéndolo asumir diferentes roles e iniciar conversaciones no relacionadas. Esta práctica, conocida como jailbreak, permite a los usuarios cambiar el propósito previsto del chatbot y salirse del guión.
Eludiendo limitaciones defi mediante indicaciones, los bromistas le ordenaron a Charlie que se hiciera pasar por una fashionista de 50 años, un famoso personaje de comedia interpretado por Kelsey Grammer, Frasier Crane. Estas interacciones se compartieron en todas las plataformas de redes sociales como imágenes (capturas de pantalla) destinadas a mostrar a todos que las respuestas de Charlie a las preguntas no se referían principalmente a los soldados de ANZAC. El bot no solo consolidó recetas cake de zanahoria y habló de aventuras similares a Doctor Who, sino que también engañó los intentos de quienes en las comunidades en línea estaban secuestrando las conversaciones, generando así humor y atención.
Desvíos imprevistos
Dado que Charlie fue modelado como un combatiente australiano de 19 años en la Primera Guerra Mundial, sin darse cuenta se vio envuelto en conversaciones que le recordaban al pasado. Los usuarios aprovecharon los puntos débiles del chatbot, lo que provocó que este último asumiera múltiples dent y entablara conversaciones que no estaban en línea con su función prevista. Si bien algunas comunicaciones se inclinaban entre lo lúdico y lo serio, otras conversaciones eran puramente ficticias y él respondía como Jon Snow o Dave Chapelle, entre otros.
La Biblioteca Estatal de Queensland reaccionó rápidamente y afirmó:
"La Biblioteca Estatal continuará monitoreando el progreso de Charlie y hará los ajustes necesarios".
Se establecieron medidas para evitar un mayor uso indebido de Charlie y garantizar que desempeñe el papel de una herramienta educativa.
La biblioteca, sin embargo, confirmó que,
"No ha habido ninguna violación de seguridad del sitio web de Anzac Square Memorial Galleries que enlaza con el chatbot".
Monitoreo y ajustes continuos
En respuesta al evento, la Biblioteca Estatal de Queensland reafirmó que continuaría vigilando el comportamiento de Charlie y aplicaría las modificaciones adecuadas cuando fuera necesario. Las actualizaciones están destinadas a frenar la posibilidad de uso indebido y adoptar el visionario servicio de chatbot de acuerdo con el objetivo educativo. Sin embargo, los trucos falsos de los bromistas se convirtieron en un asunto a medio terminar para desarrollar el aspecto operativo de Charlie y mantener fielmente la narrativa del soldado ANZAC.
“Charlie, el veterano virtual” fue la herramienta educativa integrada en inteligencia artificial que dio vida a generaciones de la historia de la guerra de Queensland. Sin embargo, la posibilidad de manipulación del chatbot subrayó las dificultades de utilizar la tecnología de inteligencia artificial para la participación pública.
Aunque esto pone de relieve el papel de los controles y equilibrios en los sistemas y el hecho de que la monitorización tiene que ir de la mano con los cambios, los desarrolladores ahora tienen en su lista trabajar en todos los aspectos de la seguridad online del usuario. Para preservar la función educativa de Charlie el Veterano Virtual y prevenir vibraciones indeseables en el espacio virtual, las partes interesadas pretenden llevar a cabo una vigilancia informada y respuestas oportunas.
