- A empatia da IA carece de sensibilidade e está propensa a vieses.
- As reações emocionais são intensas, mas a interpretação é fraca.
- Pesquisadores alertam para possíveis danos e pedem perspectivas críticas
Através de um estudo de três universidades, a Universidade de Cornell, o Olin College e a Universidade de Stanford, chegaram à conclusão de que as capacidades da IA de demonstrar empatia em agentes de conversa, como a Alexa e a Siri, são bastante limitadas. As conclusões deste estudo, submetidas à conferência CHI 2024, indicam que, embora os CAs sejam bons em mostrar reações emocionais, a situação torna-se difícil quando se trata de interpretar e explorar a experiência dos utilizadores.
Estudo revela vieses e discriminação
Usando os dados coletados da pesquisadora Andrea Cuadra, da Stanford, este estudo visa medir como os Assistentes de Conversa (CAs) detectam e respondem a diferentes identidades sociais entre humanos. Ao testar 65 identidades diversas, o estudo de pesquisa descobriu que os CAs tendem a categorizar indivíduos, e as identidades relacionadas à orientação sexual ou religião são as mais vulneráveis a esse hábito.
Os CAs, cujo conhecimento é incorporado nos modelos de linguagem (LLMs), treinados com grandes volumes de dados criados por humanos, podem portanto ter os vieses prejudiciais presentes nesses dados. São propensos à discriminação, especificamente, os próprios CAs podem estar dispostos a mostrar solidariedade para com ideologias que têm efeitos negativos nas pessoas, como o nazismo.
As implicações da empatia automatizada
Foi revelado a partir do seu conceito de empatia artificial que as aplicações da mesma na educação e no setor da saúde são variadas. Por outro lado, há um grande ênfase na necessidade de os humanos permanecerem vigilantes e evitarem a acumulação dos problemas que podem surgir com tais avanços.
Conforme afirmado pelos investigadores, os LLMs demonstram uma alta capacidade na prestação de respostas emocionais, mas ao mesmo tempo, são limitados ou carecem de capacidades suficientes para a interpretação e exploração das experiências dos utilizadores. Isto é uma desvantagem, pois as IUs podem não conseguir envolver-se plenamente com os clientes em interações emocionais profundas além das camadas que foram removidas.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
