Preocupações Éticas Aumentam à Medida que as Deadbots de IA Levantam Questões de Dignidade Digital

Especialistas em IA alertam que a IA deadbot, ou reanimações digitais dos falecidos, estão prestes a tornar-se uma realidade. Portanto, deve haver regulamentação desta questão para evitar que as pessoas sofram danos psicológicos devido ao “assombramento” pelos seus criadores e utilizadores.

Um exemplo de tais serviços, sendo tecnologicamente possível e legalmente permitido, permitiria a criação de chatbots que usam conversas guardadas com um ente perdido para “chamar a avó de volta”, no sentido de compreender as emoções das pessoas após ouvir tais discussões, conforme afirmado pelos cientistas da Universidade de Cambridge. 

Algumas empresas oferecem serviços de uma maneira que lembra o episódio “Be Right Back” de Black Mirror, que permite a um chatbot imitar padrões de linguagem e traços de personalidade de uma pessoa falecida usando a pegada digital que deixaram, diz a pesquisa.

Regulamentações de segurança solicitadas para proteger a dignidade digital

O estudo, que é publicado na revista Philosophy and Technology, apresenta exemplos de como as deadbots podem ser usadas por empresas, como para anunciar produtos a uma pessoa de forma semelhante a um ente querido falecido ou para traumatizar crianças ao afirmar que um pai morto está “com você”.

No entanto, em todos os casos, empresas não confiáveis e iniciativas comerciais imprudentes podem resultar em danos psicológicos a longo prazo e numa violação dos direitos dos falecidos, sugere o artigo.

Os investigadores sugerem que as interações diárias ocorrem com um peso emocional esmagador. Eles afirmam que este apoio emocional também pode dificultar o processo de luto, uma forma natural de lidar com a perda. 

Um campo minado ético

A Dra. Katarzyna Nowaczyk-Basińska, uma das co-autoras do estudo no Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge (LCFI), afirmou, “Os rápidos avanços na IA generativa significam que quase qualquer pessoa com acesso à internet e algum conhecimento básico pode reviver um ente querido falecido.”

Esta área da IA parece ser um campo minado ético. A coisa mais essencial a fazer é garantir que a dignidade dos falecidos não seja violada por serviços orientados para o lucro, como os provedores de vida digital pós-morte, por exemplo. O principal problema pode surgir de empresas que comercializarão a sua infraestrutura de legado online através de anúncios. 

É particularmente arriscado envolver crianças no processo, pois podem enfrentar o pior resultado. A companhia na forma de ‘deadbots’ pode logo se tornar necessária para pais que procuram consolar os seus filhos que perderam recentemente as suas mães ou pais.

Impacto no processo de luto

No entanto, não há estudos que possam indicar a adequação de tais esforços, o que deve fazer pensar no seu possível impacto, que pode ser muito desagradável, para não mencionar o fato de que pode interferir negativamente no processo normal de luto.

De acordo com o artigo de pesquisa, “Nenhum serviço de recriação pode provar que permitir que as crianças interajam com ‘deadbots’ é benéfico ou, pelo menos, não prejudica este grupo vulnerável.”

Para garantir a dignidade dos mortos e o bem-estar psicológico dos vivos, os investigadores propõem uma série de melhores práticas que podem ser usadas até ao ponto de criar leis para as regular.

Essas plataformas precisam de protocolos para “aposentar” deadbots, limitando as suas funções interativas apenas a adultos, reconhecendo as limitações de qualquer entidade artificial em pleno funcionamento e sendo muito transparentes com os clientes.

Alcance Global e Aplicações Variadas

De acordo com os pesquisadores, existem plataformas onde a imagem de uma pessoa falecida pode ser gerada com IA por um custo modesto. Por exemplo, há o Project December, que inicialmente usou modelos GPT e depois seus próprios sistemas, e também existem aplicativos como o Hereafter.

Da mesma forma, existem contrapartes chinesas com os mesmos serviços indicados no estudo. Em 2021, Joshua Barbeau recebeu atenção pública quando usou o GPT-3 para desenvolver um chatbot que falava na voz da sua namorada, que havia falecido. Em 2015, Eugenia Kuyda transformou os textos da sua amiga falecida num chatbot, abrindo caminho para a aplicação de companheirismo de IA mais popular chamada Replika.

A tecnologia também não se limita a chatbots. O MyHeritage, o site de genealogia, trouxe em 2021 o Deep Nostalgia, um recurso que gerava vídeos animados a partir de fotos individuais de antepassados dos usuários. Assim que o recurso se tornou viral, a empresa teve de admitir que muitos usuários acharam a experiência perturbadora. Com o avanço gradual dessas tecnologias, não há alternativa além de manter a ética em mente para facilitar o desenvolvimento.