Les préoccupations éthiques s’intensifient alors que les deadbots IA soulèvent des questions de dignité numérique

Les experts en IA avertissent que les deadbots IA, ou les réanimations numériques des défunts, sont sur le point de devenir une réalité. Par conséquent, il doit y avoir une réglementation de cette question pour empêcher les gens de subir des dommages psychologiques dus à la « hantise » de leurs créateurs et utilisateurs.

Un exemple d’un tel service, étant technologiquement possible et légalement permissible, permettrait la création de chatbots qui utilisent des conversations enregistrées avec un être cher pour « rappeler grand-mère » dans le sens de comprendre les émotions des gens après avoir entendu de telles discussions, comme l’ont déclaré les scientifiques de l’Université de Cambridge 

Certaines entreprises offrent des services d’une manière rappelant l’épisode « Be Right Back » de Black Mirror, qui permet à un chatbot d’imiter les modèles de langage et les traits de personnalité d’une personne décédée en utilisant l’empreinte numérique qu’elle a laissée, selon la recherche.

Des réglementations de sécurité sont demandées pour protéger la dignité numérique

L’étude, qui est publiée dans la revue Philosophy and Technology, présente des exemples de la manière dont les deadbots peuvent être utilisés par les entreprises, par exemple pour publiciser des produits à une personne de manière similaire à un proche décédé ou pour traumatiser les enfants en affirmant qu’un parent décédé est « avec vous ».

Cependant, dans tous les cas, des entreprises peu fiables et des initiatives commerciales imprudentes peuvent entraîner des dommages psychologiques à long terme et une violation des droits des défunts, suggère le document.

Les chercheurs suggèrent que les interactions quotidiennes se produisent avec un poids émotionnel écrasant. Ils affirment que ce soutien émotionnel peut également entraver le processus de deuil, une manière naturelle de faire face à la perte. 

Un champ miné éthique

Dr Katarzyna Nowaczyk-Basińska, l’une des co-auteurs de l’étude au Centre Leverhulme pour l’avenir de l’intelligence de Cambridge (LCFI), a déclaré, « Les avancées rapides de l’IA générative signifient que presque n’importe qui avec un accès Internet et quelques connaissances de base peut ressusciter un proche décédé. »

Ce domaine de l’IA semble être un champ miné éthique. La chose la plus essentielle à faire est de s’assurer que la dignité des défunts n’est pas violée par des services axés sur le profit comme les fournisseurs de vie numérique après la mort, par exemple. Le problème majeur peut provenir des entreprises qui commercialiseront leur infrastructure de patrimoine en ligne par la publicité. 

Il est particulièrement risqué d'impliquer les enfants dans ce processus, car ils pourraient subir les conséquences les plus graves. La compagnie sous forme de « deadbots » pourrait bientôt devenir nécessaire pour les parents cherchant à consoler leurs enfants qui viennent de perdre leur mère ou leur père.

Impact sur le processus de deuil

Cependant, aucune étude ne peut indiquer la pertinence de tels efforts, ce qui devrait amener à réfléchir à leur impact potentiellement très désagréable, sans parler du fait qu'ils pourraient nuire au processus normal du deuil.

Selon le document de recherche, « Aucun service de recréation ne peut prouver que permettre aux enfants d’interagir avec des « deadbots » est bénéfique ou, du moins, ne nuit pas à ce groupe vulnérable. »

Pour garantir la dignité des défunts et le bien-être psychologique des vivants, les chercheurs proposent une série de bonnes pratiques qui pourraient même être intégrées dans des lois pour les réglementer.

Ces plateformes doivent mettre en place des protocoles pour « mettre au repos » les deadbots, limiter leurs fonctions interactives aux seuls adultes, reconnaître les limites de toute entité artificielle en pleine activité, et faire preuve d'une grande transparence envers les clients.

Portée mondiale et applications variées

Selon les chercheurs, certaines plateformes existent où l'image d'une personne décédée peut être générée par IA pour un coût modique. Par exemple, il y a Project December, qui a initialement utilisé des modèles GPT avant de passer à ses propres systèmes, et il existe également des applications telles que Hereafter.

De même, il existe des contreparties chinoises avec les mêmes services indiqués dans l’étude. En 2021, Joshua Barbeau a attiré l’attention du public lorsqu’il a utilisé GPT-3 pour développer un chatbot qui parlait dans la voix de sa petite amie, décédée. En 2015, Eugenia Kuyda a transformé les textes de son amie décédée en un chatbot, ouvrant ainsi la voie à l’application de compagnon IA la plus populaire appelée Replika.

La technologie n'est pas non plus limitée aux chatbots. MyHeritage, le site de généalogie, a lancé en 2021 Deep Nostalgia, une fonctionnalité qui générait des vidéos animées à partir de photos individuelles d'ancêtres des utilisateurs. Dès que la fonctionnalité est devenue virale, l'entreprise a dû admettre que de nombreux utilisateurs la trouvaient effrayante. Avec l'avancement progressif de ces technologies, il n'existe d'autre moyen que de garder l'éthique à l'esprit pour faciliter le développement.