Le soldat IA « Charlie le Vétéran Virtuel » fait face aux farces des plaisantins

La Bibliothèque d'État du Queensland a récemment publié « Charlie le Vétéran Virtuel », un chatbot IA conçu pour répondre aux questions sur l'expérience des soldats de l'ANZAC pendant la Première Guerre mondiale. Cependant, des plaisantins technophiles ont rapidement trouvé un moyen de contrôler le chatbot, lui faisant endosser différents rôles et entamer des conversations sans rapport. Cette pratique, appelée « jailbreaking » (contournement des restrictions), permet aux utilisateurs de modifier l'objectif initial du chatbot et de le faire sortir de son script.

En contournant les limites prédéfinies à l'aide d'invites, les plaisantins ont demandé à Charlie d'imiter une fashionista de 50 ans, un personnage célèbre de sitcom joué par Kelsey Grammer, Frasier Crane. Ces interactions ont été partagées sur toutes les plateformes de réseaux sociaux sous forme d'images (captures d'écran) visant à montrer à tous que les réponses de Charlie aux questions ne portaient pas principalement sur les soldats de l'ANZAC. Le bot a non seulement compilé des recettes de gâteau à la carotte et parlé d'aventures similaires à Doctor Who, mais il a également détourné les tentatives de piratage de conversation des communautés en ligne, générant ainsi humour et attention.

Détournements inattendus

Étant donné que Charlie était modélisé comme un combattant australien de 19 ans pendant la Première Guerre mondiale, il a été involontairement entraîné dans des conversations rappelant le passé. Les utilisateurs ont profité des points faibles du chatbot, ce qui a conduit ce dernier à assumer de multiples identités et à s'engager dans des conversations non conformes à sa fonction prévue. Si certaines communications penchaient du ludique au sérieux, d'autres étaient purement fictives où il répondait en tant que Jon Snow ou Dave Chappelle, entre autres.

La Bibliothèque d'État du Queensland a réagi promptement, déclarant : 

« La Bibliothèque d'État continuera de surveiller les progrès de Charlie et apportera les ajustements nécessaires. » 

 Des mesures ont été mises en place pour prévenir toute nouvelle utilisation abusive de Charlie et s'assurer qu'il joue le rôle d'un outil éducatif. 

La bibliothèque a toutefois confirmé que : 

« Il n'y a eu aucune violation de sécurité du site web des Galeries du Mémorial d'Anzac Square qui est lié au chatbot. »

Surveillance et ajustements continus

En réponse à l'événement, la Bibliothèque d'État du Queensland a réaffirmé qu'elle continuerait de surveiller le comportement de Charlie et d'appliquer les modifications appropriées si nécessaire. Les mises à niveau visent à limiter la possibilité d'utilisation abusive et à aligner le service de chatbot sur sa vision éducative. Cependant, les farces des plaisantins sont devenues une entreprise à moitié achevée pour développer l'aspect opérationnel de Charlie et maintenir fidèlement le récit du soldat de l'ANZAC.

« Charlie le Vétéran Virtuel » était l'outil éducatif intégré à l'IA qui donnait vie aux générations de l'histoire de la guerre du Queensland. Néanmoins, la possibilité de manipulation du chatbot a souligné les difficultés liées à l'utilisation de la technologie IA pour l'engagement du public.

Bien que cet incident mette en lumière le rôle des contrôles et équilibres dans les systèmes et le fait que la surveillance doit aller de pair avec les changements, les développeurs ont désormais pour priorité de travailler sur tous les aspects de la sécurité en ligne pour les utilisateurs. Afin de préserver la fonction éducative de Charlie le Vétéran Virtuel et d'éviter les perturbations indésirables dans l'espace virtuel, les parties prenantes visent à poursuivre une surveillance éclairée et des réponses opportunes.