- A empatia da IA carece de sensibilidade e está propensa a vieses.
- As reações emocionais são intensas, mas a interpretação é fraca.
- Pesquisadores alertam para possíveis danos e pedem perspectivas críticas
Através de um estudo de três universidades: Universidade de Cornell, Olin College e Universidade de Stanford, eles perceberam que as capacidades da IA de exibir empatia em agentes de conversa, como Alexa e Siri, são bastante limitadas. As descobertas deste estudo, submetidas à conferência CHI 2024, indicam que, embora os CAs sejam bons em mostrar reações emocionais, a situação fica difícil quando se trata de interpretar e explorar a experiência dos usuários.
Vieses e discriminação descobertos
Usando os dados coletados da pesquisadora Andrea Cuadra, da Stanford, este estudo visa medir como os Assistentes de Conversa (CAs) detectam e respondem a diferentes identidades sociais entre humanos. Ao testar 65 identidades diversas, o estudo de pesquisa descobriu que os CAs tendem a categorizar indivíduos, e as identidades relacionadas à orientação sexual ou religião são as mais vulneráveis a esse hábito.
Os CAs, cujo conhecimento é incorporado nos Modelos de Linguagem de Grande Escala (LLMs), treinados em grandes volumes de dados criados por humanos, podem, portanto, ter vieses prejudiciais presentes nos dados que utilizaram. Eles estão propensos à discriminação; especificamente, os próprios CAs podem demonstrar solidariedade em direção a ideologias que têm efeitos negativos sobre as pessoas, como o nazismo.
As implicações da empatia automatizada
Revelou-se a partir do seu conceito de empatia artificial que as aplicações disso na educação e no setor de saúde são variadas. Por outro lado, há um grande ênfase na necessidade de os humanos permanecerem vigilantes e evitarem a acumulação dos problemas que podem surgir com tais avanços.
Conforme afirmado pelos pesquisadores, os LLMs demonstram alta capacidade de fornecer respostas emocionais, mas, ao mesmo tempo, são limitados ou carecem de habilidades suficientes para interpretar e explorar as experiências do usuário. Isso é uma desvantagem, pois as interfaces de usuário (UIs) podem não conseguir se envolver plenamente com os clientes em interações emocionais profundas além daquelas cujas camadas foram simplificadas.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
