- La empatía de la IA carece de agudeza y es propensa a sesgos.
- Las reacciones emocionales son intensas, pero la interpretación es débil.
- Los investigadores advierten sobre posibles daños y piden perspectivas críticas
A través de un estudio de tres universidades, la Universidad de Cornell, el Olin College y la Universidad de Stanford, han llegado a la conclusión de que las capacidades de la IA para mostrar empatía en agentes de conversación, como Alexa y Siri, son bastante limitadas. Los hallazgos de este estudio, presentados en la conferencia CHI 2024, indican que aunque los AC son buenos para mostrar reacciones emocionales, la situación se complica cuando se trata de interpretar y explorar la experiencia del usuario.
El estudio descubre sesgos y discriminación
Utilizando los datos recopilados de la investigadora Andrea Cuadra de Stanford, este estudio tiene como objetivo medir cómo los CAs detectan y responden a diferentes identidades sociales entre los humanos. Al probar 65 identidades diversas, el estudio de investigación encontró que los CAs tienden a categorizar a los individuos, y las identidades, especialmente las relacionadas con la orientación sexual o la religión, son las más vulnerables a este hábito.
Los AC, cuyo conocimiento se incorpora en los modelos de lenguaje (LLM), que se entrenan con grandes volúmenes de datos creados por humanos, pueden por lo tanto tener los sesgos dañinos que están en esos datos que han utilizado. Es propenso a la discriminación, específicamente, los propios AC pueden estar dispuestos a mostrar solidaridad hacia ideologías que tienen efectos negativos en las personas, como el nazismo.
Las implicaciones de la empatía automatizada
Se reveló a partir de su concepto de empatía artificial que las aplicaciones de la misma en el sector educativo y el de la salud son variadas. Por otro lado, se hace mucho hincapié en la necesidad de que los humanos permanezcan vigilantes y eviten la acumulación de los problemas que pueden surgir con tales avances.
Según los investigadores, los LLM demuestran una alta capacidad para proporcionar respuestas emocionales, pero al mismo tiempo, son torpes o carecen de habilidades suficientes para la interpretación y exploración de las experiencias de los usuarios. Esto es un inconveniente ya que las IU pueden no ser capaces de interactuar plenamente con los clientes en interacciones emocionales profundas más allá de aquellas cuyas capas han sido eliminadas.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
