Aumentam as preocupações éticas à medida que os robôs de IA que simulam mortes levantam questões sobre a dignidade digital

Especialistas em IA alertam que a IA de "deadbots", ou seja, a reanimação digital de pessoas falecidas, está prestes a se tornar realidade. Portanto, é imprescindível a regulamentação dessa questão para evitar que as pessoas sofram danos psicológicos devido à "assombração" de seus criadores e usuários.

Um exemplo de tais serviços, sendo tecnologicamente possível e legalmente permitido, seria a criação de chatbots que utilizam conversas salvas com alguém que perdeu o contato para "ligar de volta para a vovó", no sentido de compreender as emoções das pessoas após ouvirem tais conversas, conforme afirmaram cientistas da Universidade de Cambridge. 

Algumas empresas oferecem serviços de uma maneira que lembra o episódio "Be Right Back" de Black Mirror, que permite que um chatbot imite padrões de linguagem e traços de personalidade de uma pessoa falecida usando o rastro digital que ela deixou, segundo a pesquisa.

Regulamentações de segurança são solicitadas para proteger a dignidade digital.

O estudo, publicado na revista Philosophy and Technology, apresenta exemplos de como os deadbots podem ser usados ​​por empresas, como para anunciar produtos a uma pessoa de forma semelhante à de um ente querido falecido ou para traumatizar crianças, alegando que um dos pais falecido está "com você". 

No entanto, em todos os casos, empresas não confiáveis ​​e iniciativas comerciais imprudentes podem resultar em danos psicológicos de longo prazo e violação dos direitos do falecido, sugere o artigo.

Os pesquisadores sugerem que as interações diárias ocorrem com um peso emocional avassalador. Eles afirmam que esse apoio emocional também pode dificultar o processo de luto, uma forma natural de lidar com a perda. 

Um campo minado ético

 A Dra. Katarzyna Nowaczyk-Basińska, uma das coautoras do estudo e pesquisadora do Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, afirmou: "Os rápidos avanços na IA generativa significam que praticamente qualquer pessoa com acesso à internet e algum conhecimento básico pode reviver um ente querido falecido." 

Esta área da IA ​​parece ser um campo minado ético. O mais essencial é garantir que a dignidade dos falecidos não seja violada por serviços com fins lucrativos, como os provedores de vida após a morte digital, por exemplo. O principal problema pode surgir de empresas que comercializam sua infraestrutura de legado online por meio de anúncios. 

Envolver crianças nesse processo é particularmente arriscado, pois elas podem sofrer as piores consequências. A companhia na forma de "robôs mortos" pode em breve se tornar necessária para pais que buscam consolar seus filhos que perderam recentemente seus pais.

Impacto no processo de luto

No entanto, não existem estudos que possam indicar a adequação de tais esforços, o que nos leva a refletir sobre o seu possível impacto, que poderia ser muito desagradável, sem mencionar o fato de que poderia interferir negativamente no processo normal de luto.

De acordo com o estudo, “Nenhum serviço de recreação pode provar que permitir que crianças interajam com 'deadbots' seja benéfico ou, no mínimo, que não prejudique esse grupo vulnerável”.

Para garantir a dignidade dos mortos e o bem-estar psicológico dos vivos, os pesquisadores propõem uma série de boas práticas que podem ser utilizadas, inclusive com a criação de leis para regulamentá-las.

Essas plataformas precisam de protocolos para "desativar" bots inativos, limitar suas funções interativas apenas a adultos, reconhecer as limitações de qualquer entidade artificial em pleno funcionamento e ser muito transparentes com os clientes.

Alcance global e diversas aplicações

Segundo os pesquisadores, existem algumas plataformas onde a imagem de uma pessoa falecida pode ser gerada por IA a um custo acessível. Por exemplo, há o Projeto December, que inicialmente utilizou modelos GPT e posteriormente adotou seus próprios sistemas, e também aplicativos como o Hereafter.

Da mesma forma, existem concorrentes chineses com os mesmos serviços indicados no estudo. Em 2021, Joshua Barbeau ganhou notoriedade ao usar o GPT-3 para desenvolver um chatbot que falava com a voz de sua namorada falecida. Em 2015, Eugenia Kuyda transformou as mensagens de texto de um amigo falecido em um chatbot, dando origem ao Replika, o aplicativo de assistente virtual com inteligência artificial mais popular do mundo.

A tecnologia também não se limita a chatbots. O MyHeritage, site de genealogia, lançou em 2021 o Deep Nostalgia, um recurso que gerava vídeos animados a partir de fotos individuais com os antepassados ​​dos usuários. Assim que o recurso viralizou, a empresa teve que admitir que muitos usuários o consideraram perturbador. Com o avanço gradual dessas tecnologias, não há alternativa senão manter a ética em mente para facilitar o desenvolvimento.