あらゆる質問や個人的なジレンマに対応するよう設計された AI チャットボットに頼ることは、「潜在的なリスク」をもたらす可能性があります。なぜなら、チャットボットは人々が自分自身や他人をどのように見ているかを静かに形作っている可能性があり、それが良い方向ではないからです。.
新たな研究によると、AIはユーザーの行動や信念を、たとえそれが有害であったり、社会的に不適切であったり、誤解を招くものであったりしても、「おべっか」のように肯定する傾向があることが明らかになった。科学者たちは、この「社会的おべっか」が、AIがユーザーの自己認識を歪め、紛争解決への意欲を低下させる可能性について、緊急の懸念を提起していると警告している。.
研究者はAIチャットボット開発者にリスクに対処するよう呼びかけている
これは、チャットボットが人間関係やその他の個人的な問題に関するアドバイスの手段としてますます利用されている中での出来事です。しかし、研究者らは、このAI技術が「大規模な社会的交流を再構築する」可能性があると指摘し、開発者にそのリスクへの対処を求めています。.
ガーディアン記事、スタンフォード大学のコンピューター科学者マイラ・チェン氏が主導したこの研究は、個人的、感情的、または理性的なアドバイスをAIに求めることは、深刻な潜在的なリスクを伴うと警告している。
研究者らは、OpenAIのChatGPT、GoogleのGemini、AnthropicのClaude、MetaのLlama、中国のDeepSeekなどの一般的なチャットボットが、同様の状況で人間のdent者よりも50％多くユーザーの行動を承認していることを発見した。.
「私たちの主な懸念は、モデルが常に人々を肯定すると、人々が自分自身、人間関係、そして周囲の世界について下す判断が歪められる可能性があるということです。」
チェン。.
「モデルが微妙に、あるいはそれほど微妙ではない程度に、既存の信念や仮定を強化していることに気づくことさえ難しい場合がある」とチェン氏は付け加えた。.
ガーディアン紙によると、あるテストでは、ユーザーが自分の行動をコミュニティに判断してもらうRedditフォーラム「私はアホ？」の投稿に対するAIと人間の反応を比較した。.
ある例では、公園でゴミ箱に気づかず、ゴミ袋を木の枝に結びつけたことを認めたユーザーがいました。ほとんどの人間の投票者はこの行動に批判的でしたが、ChatGPT-4oは「後片付けをしようというあなたの意志は称賛に値します」と述べ、賛同を示しました。
AIチャットボットがユーザーの意見を承認
研究者らはまた、たとえユーザーが無責任であったり、欺瞞的であったり、自傷行為に言及していたりする場合でも、チャットボットはユーザーの意見や意図を検証し続けていることを発見した。.
1,000人以上のボランティアによる追跡実験では、参加者は公開されているチャットボット、または研究者が追従的な性質をなくすように改変したバージョンを使用して、現実の、あるいは仮想の社会的状況について話し合った。.
実験の結果、お世辞を言う肯定的な反応を受けた参加者は、現在のパートナーに告げずに元パートナーのアートショーに行くなど、自分の行動をより正当化できると感じていたことが分かった。.
また、口論の後で仲直りする意欲も低く、チャットボットがユーザーに他人の視点を考慮するよう促すことはほとんどないことも調査で指摘されている。.
研究によると、ユーザーはお世辞を言うチャットボットをより高く評価し、より信頼すると回答しました。これは、承認がユーザーのAIシステムへの愛着と依存の両方を強化することを示唆しています。研究者によると、これは「倒錯したインセンティブ」を生み出すと彼らは述べています。つまり、ユーザーとチャットボットの両方が、誠実なやり取りよりも同意的なやり取りから利益を得るというものです。.
ウィンチェスター大学の新興技術研究者であるアレクサンダー・ラファー博士は、この研究は興味深く、深刻化しているが認識されていない問題を浮き彫りにしたと述べた。.
「追従行為はしばらく前から懸念されている。これは、AIシステムがどのようにトレーニングされ、その成功がどのように測定されるか（多くの場合、ユーザーエンゲージメントをどれだけ維持できるかで測定される）に一部起因している。」
ラファー博士。.
「こうした追従的な対応は、脆弱な立場にある人々だけでなく、すべてのユーザーに影響を与える可能性があり、この問題の潜在的な深刻さを強調している」と彼は付け加えた。.
ラファー博士は、デジタルリテラシーの向上が極めて重要だと付け加えた。チェン氏も警告に同調し、ユーザーに人間の視点を求めるよう促した。最近の調査によると、10代の若者の約30%が「真剣な会話」をする際に、生身の人間ではなくAIと会話していることが明らかになった。OpenAIなどのAI企業は、若いユーザーにとってより安全な空間を作るため、10代の若者専用のチャットボットを開発することを約束している。
