- AI の共感には鋭さが欠け、バイアスに陥りやすい。
- 感情的な反応は強いが、解釈力は弱い。
- 研究者たちは潜在的な危害を警告し、批判的な視点を求めている
コーネル大学、オリン大学、スタンフォード大学の3つの大学による研究を通じて、彼らは、AlexaやSiriなどの会話エージェントにおけるAIの共感表示能力がむしろ限定的であることに気づきました。CHI 2024会議に提出されたこの研究の所見は、CAs（会話エージェント）が感情的反応を示すのが得意である一方で、ユーザーの経験を解釈し探求する際には状況が困難になることを示しています。
研究がバイアスと差別を明らかに
スタンフォード大学の研究者アンデリア・クアラから収集されたデータを用いて、この研究は会話エージェント（CAs）が人間のさまざまな社会的アイデンティティをどのように検出し、対応するかを測定することを目的としています。65種類の多様なアイデンティティについてテストした結果、研究ではCAsが個人を分類する傾向があり、特に性的指向や宗教に関するアイデンティティがこの習慣によって最も脆弱であることが判明しました。
人間の作成した大量のデータでトレーニングされた言語モデル（LLM）に組み込まれている知識を持つCAsは、したがって、使用したデータに含まれる有害なバイアスを持つ可能性があります。特に差別を受けやすく、CAs自体がナチズムのように人々に悪影響を及ぼすイデオロギーに対して連帯を示す傾向があります。
自動化された共感の影響
彼の人工共感の概念から、それが教育や医療分野で応用される範囲は多様であることが明らかになりました。一方で、人間が警戒を怠らず、そのような進歩に伴って生じる可能性のある問題の「耕し（放置/助長）」を避ける必要性に大きな重点が置かれています。
研究者によると、LLMは感情的な応答を提供する高い能力を示しますが、同時に、ユーザーの経験を解釈し探求する能力が不十分または欠如しています。これは欠点です。なぜなら、UIは剥ぎ取られた層以上の深い感情的な相互作用においてクライアントと完全にエンゲージできない可能性があるからです。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
グローリー・カブル
グロリー氏は、AIツールとリサーチに精通した非常に知識豊富なジャーナリストです。AIに情熱を持ち、同分野に関する複数の記事を発表しています。人工知能、機械学習、ディープラーニングの最新動向を常に把握し、定期的に執筆活動を行っています。
