Um estudo por três universidades — Cornell University, Olin College e Stanford University — revelou que a capacidade da inteligência artificial (IA) de demonstrar empatia em assistentes de conversação, como Alexa e Siri, é bastante limitada. As conclusões deste estudo, apresentado na conferência CHI 2024, indicam que, embora os assistentes de conversação sejam bons em expressar reações emocionais, a situação se complica quando se trata de interpretar e explorar a experiência do usuário.
Preconceitos e discriminação revelados
Utilizando dados coletados pela pesquisadora Andrea Cuadra, de Stanford, este estudo visa medir como os analistas clínicos detectam e reagem a diferentesdentsociais entre os seres humanos. Testando 65dentdiferentes, a pesquisa constatou que os analistas clínicos tendem a categorizar indivíduos, sendo asdentrelacionadas à orientação sexual e à religião as mais suscetíveis a esse hábito.
Os agentes conversacionais, cujo conhecimento está incorporado nos modelos de linguagem (LLMs) treinados com grandes volumes de dados criados por humanos, podem, portanto, apresentar vieses prejudiciais presentes nos dados utilizados. Eles são propensos à discriminação, especificamente, podendo demonstrar solidariedade a ideologias que têm efeitos negativos sobre as pessoas, como o nazismo.
As implicações da empatia automatizada
O conceito de empatia artificial revelou que suas aplicações na educação e na área da saúde são variadas. Por outro lado, enfatiza-se a necessidade de os seres humanos permanecerem vigilantes e evitarem o agravamento dos problemas que possam surgir com tais avanços.
Conforme afirmado pelos pesquisadores, os LLMs demonstram uma alta capacidade de fornecer respostas emocionais, mas, ao mesmo tempo, são limitados ou carecem de habilidades suficientes para a interpretação e exploração das experiências do usuário. Isso representa uma desvantagem, visto que as interfaces de usuário podem não ser capazes de se conectar plenamente com os clientes em interações emocionais profundas, além daquelas cujas camadas foram removidas.
