Le soldat IA « Charlie le vétéran virtuel » victime des farces de plaisantins

La Bibliothèque d'État du Queensland a récemment lancé « Charlie le vétéran virtuel », un chatbot doté d'intelligence artificielle conçu pour répondre aux questions sur le vécu des soldats ANZAC durant la Première Guerre mondiale. Cependant, des plaisantins avertis ont rapidement trouvé le moyen de contrôler le chatbot, lui faisant endosser différents rôles et entamer des conversations sans rapport avec le sujet. Cette pratique, appelée « jailbreak », permet aux utilisateurs de modifier la fonction initiale du chatbot et de le faire dévier de son script.

En contournant les limitationsdefigrâce à des suggestions, des farceurs ont incité Charlie à imiter un fashionista de 50 ans, Frasier Crane, personnage de sitcom célèbre interprété par Kelsey Grammer. Ces interactions ont été partagées sur les réseaux sociaux sous forme de captures d'écran, afin de montrer que les réponses de Charlie ne portaient pas principalement sur les soldats de l'ANZAC. Le bot a non seulement partagé des recettes cake aux carottes et évoqué des aventures similaires à celles de Doctor Who, mais il a également déjoué les tentatives de détournement des conversations au sein des communautés en ligne, suscitant ainsi humour et intérêt.

Détours imprévus

Étant donné que Charlie était conçu comme un jeune combattant australien de 19 ans durant la Première Guerre mondiale, il s'est retrouvé malgré lui impliqué dans des conversations évoquant le passé. Les utilisateurs ont exploité les failles du chatbot, ce qui a conduit ce dernier à endosser de multiplesdentet à engager des conversations hors de propos. Si certaines communications oscillaient entre le ludique et le sérieux, d'autres étaient purement fictives, où il répondait notamment en se faisant passer pour Jon Snow ou Dave Chappelle.

La Bibliothèque d'État du Queensland a réagi promptement, déclarant : 

« La Bibliothèque d'État continuera de suivre les progrès de Charlie et d'apporter les ajustements nécessaires. » 

 Des mesures ont été mises en place pour empêcher toute nouvelle utilisation abusive de Charlie et pour s'assurer qu'il joue plutôt le rôle d'un outil pédagogique. 

La bibliothèque a toutefois confirmé que, 

« Aucune faille de sécurité n’a été constatée sur le site web des galeries commémoratives d’Anzac Square qui renvoie au chatbot. »

Surveillance et ajustements continus

Suite à cet incident, la Bibliothèque d'État du Queensland a réaffirmé sa volonté de surveiller le fonctionnement de Charlie et d'apporter les modifications nécessaires. Les mises à jour visent à limiter les risques d'utilisation abusive et à orienter le service de chatbot vers une approche pédagogique. Cependant, les plaisanteries de mauvais goût ont compromis le développement opérationnel de Charlie et compromis la fidélité au récit du soldat ANZAC.

« Charlie le vétéran virtuel » était un outil pédagogique intégrant l'intelligence artificielle qui a permis à des générations de personnes de découvrir l'histoire militaire du Queensland. Cependant, la possibilité de manipulation du chatbot a mis en évidence les difficultés liées à l'utilisation de l'IA pour la sensibilisation du public.

Bien que cet événement mette en lumière le rôle crucial des mécanismes de contrôle et d'équilibre au sein des systèmes, et la nécessité d'un suivi continu tout au long du processus, les développeurs doivent désormais se pencher sur tous les aspects de la sécurité en ligne pour l'utilisateur. Afin de préserver la vocation éducative de Charlie le Vétéran Virtuel et de prévenir tout incident dans l'espace virtuel, les parties prenantes s'engagent à maintenir une surveillance ciblée et des interventions rapides.