Um estudo por três universidades — Cornell University, Olin College e Stanford University — revelou que a capacidade da inteligência artificial (IA) de demonstrar empatia em assistentes de conversação, como Alexa e Siri, é bastante limitada. As conclusões deste estudo, apresentado na conferência CHI 2024, indicam que, embora os assistentes de conversação sejam bons em expressar reações emocionais, a situação se complica quando se trata de interpretar e explorar a experiência do usuário.
Estudo revela preconceitos e discriminação
Utilizando dados coletados pela pesquisadora Andrea Cuadra, de Stanford, este estudo visa medir como os analistas clínicos detectam e reagem a diferentesdentsociais entre os seres humanos. Testando 65dentdiferentes, a pesquisa constatou que os analistas clínicos tendem a categorizar indivíduos, sendo asdentrelacionadas à orientação sexual e à religião as mais suscetíveis a esse hábito.
Os agentes conversacionais, cujo conhecimento está incorporado nos modelos de linguagem (LLMs) treinados com grandes volumes de dados criados por humanos, podem, portanto, apresentar os vieses prejudiciais presentes nesses dados. Eles são propensos à discriminação, especificamente, e podem demonstrar solidariedade a ideologias que têm efeitos negativos sobre as pessoas, como o nazismo.
As implicações da empatia automatizada
A partir do conceito de empatia artificial, revelou-se que suas aplicações na educação e no setor da saúde são variadas. Por outro lado, enfatizou-se a necessidade de os seres humanos permanecerem vigilantes e evitarem o agravamento dos problemas que possam surgir com tais avanços.
Conforme afirmado pelos pesquisadores, os LLMs demonstram alta capacidade em fornecer respostas emocionais, mas, ao mesmo tempo, são limitados ou carecem de habilidades suficientes para a interpretação e exploração das experiências do usuário. Isso representa uma desvantagem, visto que as interfaces de usuário podem não ser capazes de se conectar plenamente com os clientes em interações emocionais profundas, além daquelas cujas camadas foram removidas.
