AIが生み出す共感の限界を浮き彫りにする研究

コーネル大学、オリン大学、スタンフォード大学の3大学による 研究を通して、AlexaやSiriといった対話型エージェントにおけるAIの共感表現能力はかなり限られていることが明らかになった。CHI 2024会議に提出されたこの研究結果によると、対話型エージェントは感情的な反応を示すことには長けているものの、ユーザー体験の解釈や探求となると状況は難しくなるという。

研究は偏見と差別を明らかにする

 この研究は、スタンフォード大学の研究者アンドレア・クアドラが収集したデータを用いて、CAが人間の間で異なる社会的dentをどのように検知し、反応するかを測定することを目的としてdent。65種類の異なるアイデンティティをテストした結果、CAは個人を分類する傾向があり、特に性的指向や宗教に関するdentはこの傾向に最も影響を受けやすいことがわかりました。. 

CAの知識は言語モデル（LLM）に組み込まれており、膨大な量の人間が作成したデータで学習されているため、CAが使用したデータに含まれる有害なバイアスを持つ可能性があります。特に差別的になりやすく、CA自身もナチズムのような人々に悪影響を及ぼすイデオロギーへの連帯を示すために行動することがあります。. 

自動化された共感の意味 

 彼の人工共感の概念から、教育や医療分野におけるその応用範囲が多岐にわたることが明らかになった。一方で、人間はこうした進歩によって生じる可能性のある問題に常に注意を払い、その影響を回避する必要があることも強調されている。. 

研究者らが述べているように、LLMは感情的な反応を提供する能力において高い能力を示していますが、同時に、ユーザーエクスペリエンスの解釈と探求能力が不十分であったり、不十分であったりします。これは、UIが、レイヤーを剥ぎ取った以上の深い感情的なインタラクションにおいて、クライアントと十分に関わり合うことができない可能性があるため、欠点です。.