AI生成の共感における限界を浮き彫りにする研究

著者

グローリー・カブル 2分で読了公開 9月 2024日

AI の共感には鋭さが欠け、バイアスに陥りやすい。
感情的な反応は強いが、解釈力は弱い。
研究者たちは潜在的な危害を警告し、批判的な視点を求めている

コーネル大学、オリン大学、スタンフォード大学の3つの大学からの研究により、AlexaやSiriなどの会話エージェントにおけるAIの共感表示能力は非常に限定的であることがわかりました。CHI 2024会議に提出されたこの研究の所見は、CAsが感情的な反応を示すのが得意である一方で、ユーザーの経験を解釈し探求する際には状況が困難になることを示しています。

バイアスと差別が明らかに

スタンフォード大学の研究者アンデリア・クアラから収集されたデータを用いて、この研究は会話エージェント（CAs）が人間のさまざまな社会的アイデンティティをどのように検出し、対応するかを測定することを目的としています。65種類の多様なアイデンティティについてテストした結果、研究ではCAsが個人を分類する傾向があり、特に性的指向や宗教に関するアイデンティティがこの習慣によって最も脆弱であることが判明しました。

大規模な人間作成データで訓練された言語モデル（LLM）に組み込まれている知識を持つCAsは、使用したデータに含まれる有害なバイアスを持つ可能性があります。特に差別を受けやすく、CAs自体がナチズムのように人々に悪影響を及ぼすイデオロギーに対して連帯を示す傾向があることが指摘されています。

自動化された共感の影響

人工的な共感の概念から、教育および医療分野での応用は多岐にわたることが明らかになりました。一方で、このような進歩に伴って生じる可能性のある問題の「耕し」（増幅・助長）を避けるため、人間が警戒を怠らず注意を払う必要性が強く強調されています。

研究者らの主張によれば、LLMは感情的な応答を提供する高い能力を示しますが、同時に、ユーザーの経験を解釈し探求する能力が不十分または乏しいという欠点があります。これは、UIが剥ぎ取られた層以外の深い感情的な対話においてクライアントと完全にエンゲージできない可能性があるため、不利な点となります。

最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？彼らに加わりましょう。

この記事をシェア

免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。