Aumentan las preocupaciones éticas mientras los "deadbots" plantean interrogantes sobre la dignidad digital

Los expertos en IA advierten que la IA deadbot, o las reanimaciones digitales de los fallecidos, están a punto de convertirse en una realidad. Por lo tanto, debe haber una regulación de este tema para evitar que las personas sufran daños psicológicos debido al “asombro” de sus creadores y usuarios.

Un ejemplo de tales servicios, siendo tecnológicamente posible y legalmente permisible, permitiría la creación de chatbots que utilizan conversaciones guardadas con un ser querido perdido para “llamar a la abuela de nuevo” en el sentido de entender las emociones de las personas después de escuchar dichas discusiones, según los científicos de la Universidad de Cambridge. 

Algunas empresas ofrecen servicios de una manera que recuerda al episodio de Black Mirror “Be Right Back”, que permite a un chatbot imitar los patrones de lenguaje y los rasgos de personalidad de una persona fallecida utilizando la huella digital que han dejado, dice la investigación.

Se instauran reglamentos de seguridad para proteger la dignidad digital

El estudio, que está publicado en la revista Philosophy and Technology, presenta ejemplos de cómo las empresas pueden utilizar los deadbots, como para anunciar productos a una persona de manera similar a un ser querido fallecido o para traumatizar a los niños afirmando que un padre muerto está “contigo”.

Sin embargo, en todos los casos, las empresas poco confiables y las iniciativas empresariales imprudentes pueden resultar en daños psicológicos a largo plazo y una violación de los derechos de los fallecidos, sugiere el artículo.

Los investigadores sugieren que las interacciones diarias ocurren con un peso emocional abrumador. Afirman que este apoyo emocional también puede obstaculizar el proceso de duelo, una forma natural de hacer frente a la pérdida. 

Un campo minado ético

La Dra. Katarzyna Nowaczyk-Basińska, una de las coautoras del estudio en el Centro Leverhulme para el Futuro de la Inteligencia de Cambridge (LCFI), declaró, “Los rápidos avances en la IA generativa significan que casi cualquier persona con acceso a Internet y algunos conocimientos básicos puede revivir a un ser querido fallecido.”

Esta área de la IA parece ser un campo minado ético. Lo más esencial es asegurarse de que la dignidad de los fallecidos no sea violada por servicios impulsados por el beneficio, como los proveedores de vida digital después de la muerte, por ejemplo. El problema principal puede surgir de empresas que comercialicen su infraestructura de legado en línea a través de anuncios. 

Es particularmente arriesgado involucrar a los niños en el proceso porque pueden enfrentar el peor resultado. La compañía en forma de ‘deadbots’ puede pronto volverse necesaria para los padres que buscan consolar a sus hijos que han perdido recientemente a sus madres o padres.

Impacto en el proceso de duelo

Sin embargo, no hay estudios que puedan indicar la idoneidad de tales esfuerzos, lo que debería hacer pensar en su posible impacto, que podría ser muy desagradable, por no mencionar el hecho de que podría interferir negativamente con el proceso normal de luto.

Según el artículo de investigación, “Ningún servicio de recreación puede demostrar que permitir que los niños interactúen con ‘deadbots’ es beneficioso o, como mínimo, no daña a este grupo vulnerable.”

Para garantizar la dignidad de los muertos y el bienestar psicológico de los vivos, los investigadores proponen una serie de mejores prácticas que pueden utilizarse incluso hasta el punto de hacer leyes para regularlas.

Esas plataformas necesitan protocolos para “retirar” los deadbots, limitar sus funciones interactivas solo a adultos, reconocer las limitaciones de cualquier entidad artificial en pleno funcionamiento y ser muy transparentes con los clientes.

Alcance global y aplicaciones variadas

Según los investigadores, existen algunas plataformas donde se puede generar la imagen de una persona fallecida con IA por un costo modesto. Por ejemplo, está Project December, que inicialmente utilizó modelos GPT y luego sus propios sistemas, y también hay aplicaciones como Hereafter.

Del mismo modo, hay contrapartes chinas con los mismos servicios indicados en el estudio. En 2021, Joshua Barbeau recibió atención pública cuando utilizó GPT-3 para desarrollar un chatbot que hablaba con la voz de su novia, quien había fallecido. En 2015, Eugenia Kuyda convirtió los textos de su amiga fallecida en un chatbot, dando paso a la aplicación de compañero de IA más popular llamada Replika.

La tecnología tampoco se limita a los chatbots. MyHeritage, el sitio de genealogía, lanzó en 2021 Deep Nostalgia, una función que generaba videos animados a partir de fotos individuales de los antepasados de los usuarios. Tan pronto como la función se hizo viral, la empresa tuvo que admitir que muchos usuarios la encontraban escalofriante. Con el avance gradual de estas tecnologías, no hay otro medio que mantener la ética en mente para facilitar el desarrollo.