Las preocupaciones éticas aumentan a medida que los robots de inteligencia artificial plantean cuestiones de dignidad digital

Los expertos en IA advierten que la IA de robots muertos, o reanimaciones digitales de personas fallecidas, está a punto de convertirse en una realidad. Por lo tanto, es necesario regular este tema para evitar que las personas sufran daños psicológicos debido a la "obsesión" de sus creadores y usuarios.

Un ejemplo de tales servicios, siendo tecnológicamente posible y legalmente permisible, permitiría la creación de chatbots que usen conversaciones guardadas con una persona perdida para "devolver la llamada a la abuela" en el sentido de comprender las emociones de las personas después de escuchar dichas conversaciones, como afirmaron los científicos de la Universidad de Cambridge 

Algunas empresas ofrecen servicios que recuerdan al episodio “Be Right Back” de Black Mirror, que permite a un chatbot imitar patrones de lenguaje y rasgos de personalidad de una persona fallecida utilizando la huella digital que ha dejado, dice la investigación.

Se insta a adoptar normas de seguridad para proteger la dignidad digital

El estudio, publicado en la revista Philosophy and Technology, presenta ejemplos de cómo las empresas pueden utilizar los "bots muertos", por ejemplo, para publicitar productos a una persona de forma similar a como lo haría un ser querido fallecido, o para traumatizar a los niños afirmando que un padre fallecido está "con ellos". 

Sin embargo, en todos los casos, las empresas poco confiables y las iniciativas comerciales imprudentes pueden resultar en daños psicológicos a largo plazo y una violación de los derechos del fallecido, sugiere el documento.

Los investigadores sugieren que las interacciones cotidianas conllevan una carga emocional abrumadora. Afirman que dicho apoyo emocional también puede dificultar el proceso de duelo, una forma natural de afrontar la pérdida. 

Un campo minado ético

 La Dra. Katarzyna Nowaczyk-Basińska, una de las coautoras del estudio en el Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge, afirmó: "Los rápidos avances en la IA generativa significan que casi cualquier persona con acceso a Internet y algunos conocimientos básicos puede revivir a un ser querido fallecido". 

Este ámbito de la IA parece ser un campo minado desde el punto de vista ético. Lo más importante es garantizar que la dignidad del difunto no se vea vulnerada por servicios con ánimo de lucro, como, por ejemplo, los proveedores de servicios digitales de ultratumba. El principal problema podría surgir de las empresas que comercialicen su infraestructura en línea heredada mediante anuncios. 

Es particularmente arriesgado involucrar a los niños en el proceso, ya que podrían enfrentarse a las peores consecuencias. La compañía de los "robots muertos" podría pronto volverse necesaria para los padres que buscan consolar a sus hijos que han perdido recientemente a sus padres.

Impacto en el proceso de duelo

Sin embargo, no existen estudios que puedan indicar la idoneidad de tales esfuerzos, lo que debería hacer pensar en su posible impacto, que podría ser muy desagradable, sin mencionar el hecho de que podría interferir negativamente con el proceso normal de duelo.

Según el estudio, "ningún servicio de recreación puede demostrar que permitir que los niños interactúen con 'robots muertos' sea beneficioso o, al menos, que no perjudique a este grupo vulnerable".

Para garantizar la dignidad de los muertos y el bienestar psicológico de los vivos, los investigadores proponen una serie de mejores prácticas que pueden utilizarse incluso hasta el punto de crear leyes para regularlas.

Esas plataformas necesitan protocolos para “retirar” a los deadbots, limitar sus funciones interactivas sólo a adultos, reconocer las limitaciones de cualquier entidad artificial en pleno funcionamiento y ser muy transparentes con los clientes.

Alcance global y aplicaciones variadas

Según los investigadores, existen plataformas donde se puede generar la imagen de una persona fallecida mediante IA a un coste módico. Por ejemplo, Project December, que inicialmente utilizó modelos GPT y posteriormente sus sistemas, y también existen aplicaciones como Hereafter.

Asimismo, existen homólogos chinos con los mismos servicios indicados en el estudio. En 2021, Joshua Barbeau captó la atención del público al utilizar GPT-3 para desarrollar un chatbot que hablaba con la voz de su novia fallecida. En 2015, Eugenia Kuyda convirtió los mensajes de texto de su amiga fallecida en un chatbot, lo que dio origen a Replika, la popular aplicación de IA complementaria.

La tecnología no se limita a los chatbots. MyHeritage, el sitio de genealogía, lanzó en 2021 Deep Nostalgia, una función que generaba videos animados a partir de fotos individuales con los antepasados ​​de los usuarios. En cuanto la función se viralizó, la compañía tuvo que admitir que muchos usuarios la encontraron inquietante. Con el avance gradual de estas tecnologías, no hay otra alternativa que tener en cuenta la ética para facilitar el desarrollo.