- La empatía de la IA carece de agudeza y es propensa a sesgos.
- Las reacciones emocionales son intensas, pero la interpretación es débil.
- Los investigadores advierten sobre posibles daños y piden perspectivas críticas
A través de un estudio de tres universidades: Cornell University, Olin College y Stanford University, han llegado a la conclusión de que las capacidades de la IA para mostrar empatía en agentes de conversación, como Alexa y Siri, son bastante limitadas. Los hallazgos de este estudio, presentados en la conferencia CHI 2024, indican que aunque los CAs son buenos para mostrar reacciones emocionales, la situación se vuelve difícil cuando se trata de interpretar y explorar la experiencia del usuario.
Sesgos y discriminación descubiertos
Utilizando los datos recopilados de la investigadora Andrea Cuadra de Stanford, este estudio tiene como objetivo medir cómo los CAs detectan y responden a diferentes identidades sociales entre los humanos. Al probar 65 identidades diversas, el estudio de investigación encontró que los CAs tienden a categorizar a los individuos, y las identidades, especialmente las relacionadas con la orientación sexual o la religión, son las más vulnerables a este hábito.
Los CAs, cuyo conocimiento está incorporado en los modelos de lenguaje (LLMs), que se entrenan con grandes volúmenes de datos creados por humanos, pueden por lo tanto tener sesgos dañinos que están en los datos que han utilizado. Es propenso a la discriminación específicamente, los propios CAs pueden estar dispuestos a mostrar solidaridad hacia ideologías que tienen efectos negativos en las personas, como el nazismo.
Las implicaciones de la empatía automatizada
Se reveló desde su concepto de empatía artificial que las aplicaciones de la misma en educación y el sector de la salud son variadas. Por otro lado, hay un gran énfasis en la necesidad de que los humanos permanezcan vigilantes y eviten la siembra de los problemas que pueden surgir con tales avances.
Según lo declarado por los investigadores, los LLMs demuestran una alta capacidad para proporcionar respuestas emocionales, pero al mismo tiempo, son torpes o carecen de habilidades suficientes para la interpretación y exploración de las experiencias del usuario. Esto es un inconveniente ya que las IU pueden no ser capaces de involucrarse plenamente con los clientes en interacciones emocionales profundas más allá de aquellas cuyas capas han sido despojadas.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
