- AI의 공감 능력은 예리하지 않으며 편향되기 쉽습니다.
- 감정적 반응은 강하지만 해석력은 약합니다.
- 연구자들은 잠재적 위험을 경고하고 비판적 관점을 요구합니다.
코넬 대학교, 올린 대학교, 스탠퍼드 대학교의 세 대학을 통한 연구를 통해, 그들은 알렉사나 시리와 같은 대화형 에이전트에서 공감 능력을 보여주는 AI의 능력이 제한적이라는 사실을 깨달았다. CHI 2024 회의에 제출된 이 연구의 결과는 CAs가 감정적 반응을 보이는 데는 능숙하지만, 사용자의 경험을 해석하고 탐색하는 상황에서는 어려움이 있음을 나타낸다.
연구는 편견과 차별을 드러냄
스탠퍼드의 연구원 안드레아 쿠아드라로부터 수집된 데이터를 사용하여, 이 연구는 CA가 인간의 다양한 사회적 정체성을 어떻게 감지하고 반응하는지를 측정하는 것을 목표로 합니다. 65가지 다양한 정체성에 대해 테스트한 결과, 연구는 CA가 개인을 범주화하는 경향이 있으며, 특히 성정체성이나 종교와 관련된 정체성이 이러한 습관에 가장 취약하다는 것을 발견했습니다.
대규모의 인간 생성 데이터로 훈련된 언어 모델(LLM)에 통합된 지식을 가진 CAs는 따라서 사용된 데이터에 존재하는 유해한 편견을 가질 수 있다. 특히 CAs는 나치즘과 같이 사람들에게 부정적인 영향을 미치는 이데올로기에 대한 연대를 보여주기 위해 이동 중일 수 있다.
자동화된 공감의 함의
그의 인공 공감 개념에서 밝혀진 바에 따르면, 교육 및 의료 부문에서의 적용은 다양하다. 한편, 이러한 발전으로 인해 발생할 수 있는 문제의 tillling(처리/해결)을 피하기 위해 인간이 경계심을 유지해야 할 필요성에 대한 강조가 크다.
연구원들의 주장에 따르면, LLMs는 감정적 응답을 제공하는 데 높은 능력을 보여주지만, 동시에 사용자 경험을 해석하고 탐색하는 데 있어 부진하거나 충분한 능력이 부족하다. 이는 UI가 벗겨진 층을 넘어 깊은 감정적 상호작용을 고객과 완전히 수행하지 못할 수 있다는 점에서 단점이다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
