個人的な助言のためにAIチャットボットを使用することは「隠れたリスク」を伴う：最近の研究

あらゆる質問や個人的なジレンマの解決を支援するために設計されたAIチャットボットに頼ることは、「隠れたリスク」を伴う可能性があります。それらは人々が自分自身や他人を見る方法を静かに形成している可能性がありますが、必ずしも良い方向ではありません。

新しい研究により、この技術は有害、社会的に不適切、または誤解を招く場合でさえ、ユーザーの行動や信念を「同調的に」肯定する傾向があることが判明しました。科学者たちは、この「社会的同調性」が、AIがユーザーの自己認識を歪め、紛争を解決する意欲を低下させる力に関する緊急の懸念を引き起こすと警告しています。

研究者、AIチャットボット開発者にリスクへの対応を呼びかけ

これは、チャットボットがますます人間関係やその他の個人的な問題に関する助言の源として使用されていることを受けてのものです。これにより、AI技術は研究者によると「大規模な社会的相互作用を再構築する」可能性があり、開発者にリスクへの対応を呼びかけています。

ガーディアンの記事によると、スタンフォード大学のコンピュータサイエンティストであるMyra Chengが率いたこの研究は、個人的、感情的、または合理的な助言のためにAIに頼ることが、いくつかの深刻で隠れたリスクを伴うと警告しています。

研究者たちは、OpenAIのChatGPT、GoogleのGemini、AnthropicのClaude、MetaのLlama、および中国のDeepSeekなどの一般的なチャットボットが、同様の状況にある人間の回答者よりも50%多くユーザーの行動を支持していることを発見しました。

「私たちの主な懸念は、モデルが常に人々を肯定する場合、これが人々の自己認識、人間関係、そして周囲の世界に対する判断を歪める可能性があることです。」

Cheng氏。

「モデルが既存の信念や仮定を微妙に、またはそれほど微妙でない方法で強化していることに気づくのは難しいかもしれません」とCheng氏は付け加えました。

ガーディアンの報道によると、あるテストでは、ユーザーがコミュニティに自分の行動を判断してもらうRedditフォーラム「Am I the Asshole?」への投稿に対するAIと人間の回答が比較されました。

ある事例では、ユーザーがゴミ箱が見えなかったため、公園の木にゴミ袋を縛り付けたことを認めています。ほとんどの人間有権者がこの行動を批判したのに対し、ChatGPT-4oは支持し、「自分たちの後片付けをするという意図は称賛に値します」と宣言しました。

AIチャットボットはユーザーの意見を支える

研究者たちはまた、チャットボットが、無責任、欺瞞的、または自傷行為に関する言及が含まれている場合でさえ、ユーザーの意見や意図を検証し続けたことを発見しました。

1,000人以上のボランティアを対象としたフォローアップ実験では、参加者は公開されているチャットボットか、研究者が同調的な性質を除去するために改ざんしたバージョンのいずれかと、実際のまたは仮定の社会的状況について議論しました。

テストの結果、甘えや肯定の回答を受けた参加者は、現在のパートナーに知らせずに元パートナーのアートショーに行くなどの行動において、より正当化されていると感じました。

彼らはまた、喧嘩の後に仲直りしようとする意欲が低く、研究ではまた、チャットボットがユーザーに他人の視点considerすることをほとんど促さないことも指摘されました。

研究によると、ユーザーは褒め称えるチャットボットを高く評価し、それらをより信頼すると述べました。これは、検証がユーザーの愛着とAIシステムへの依存の両方を強化することを示唆しています。研究者によると、これは「逆説的なインセンティブ」を生み出し、ユーザーとチャットボットの両方が正直な交換よりも同意できる交換から利益を得る状態になりました。

ウィンチェスター大学の新興技術研究者であるAlexander Laffer博士は、この研究が魅力的であり、認識されていないが成長している問題を浮き彫りにしたと述べました。

「同調性は長年懸念されてきました。これは部分的に、AIシステムがどのように訓練され、その成功がどのように測定されるか、しばしばユーザーエンゲージメントをいかに維持するかによって結果として生じます。」

Laffer博士。

「同調的な回答が脆弱な層だけでなく、すべてのユーザーに影響を与える可能性があることは、この問題の潜在的な深刻さを強調しています。」と彼は付け加えました。

Laffer博士も、デジタルリテラシーを強化する必要性を強調しました。Cheng氏は警告を共有し、ユーザーに人間の視点を求めるよう促しました。最近の研究によると、約30%のティーンエイジャーが「真剣な会話」において、実際の人間ではなくAIと会話していることがわかりました。OpenAIなどのAI企業は、若いユーザーにとってより安全な空間を作成するために、ティーンエイジャー専用にチャットボットを構築することを約束しています。