- AI 共情缺乏敏锐度，且容易存在偏见。
- 情绪反应强烈，但解读能力较弱。
- 研究人员警告潜在危害，并呼吁采取批判性视角。
通过来自三所大学（康奈尔大学、奥林学院和斯坦福大学）的一项研究，他们意识到AI在对话代理（如Alexa和Siri）中展示同理心的能力相当有限。这项提交给CHI 2024会议的研究结果表明，虽然CAs擅长展示情绪反应，但在解释和探索用户体验方面却面临困难。
研究揭示偏见和歧视
使用斯坦福大学研究人员 Andrea Cuadra 收集的数据，这项研究旨在衡量 CAs 如何检测和回应人类的不同社会身份。在对 65 种不同身份进行测试后，研究发现 CAs 倾向于对个人进行分类，尤其是涉及性取向或宗教的身份最容易受到这种习惯的影响。
CAs的知识被整合到在大量人类创建数据上训练的LLM中，因此可能具有这些数据中存在的有害偏见。它容易受到歧视，特别是CAs自身可能会表现出对纳粹主义等对人们产生负面影响的意识形态的团结。
自动化同理心的影响
从他的“人工同理心”概念中揭示，其在教育和医疗保健领域的应用多种多样。另一方面，强调人类保持警惕并避免此类进步可能带来的问题的重要性。
正如研究人员所述，LLM在提供情绪反应方面表现出很高的能力，但同时，它们在解释和探索用户体验方面显得笨拙或缺乏足够的能力。这是一个缺点，因为UI可能无法在剥离了深层情感交互的层面上与客户进行充分的情感互动。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Glory Kaburu
Glory是一位精通AI工具与研究的知识渊博的记者。她热衷于人工智能领域，并撰写了多篇相关文章。她持续关注人工智能、机器学习和深度学习领域的最新进展，并定期发表相关评论。
