研究によると、AI モデルは女性として行動するよう指示されるとリスク回避的になる

新しい研究により、AIモデルは女性として行動するよう求められたとき、リスク回避的になることが明らかになりました。イラン・テヘランのアッラーメ・タバータバーイー大学からの論文によると、AIモデルは女性として意思決定を行うよう求められたとき、リスクを取ることに慎重になります。

研究論文によると、同じAIモデルに男性として考えるよう求められた場合、それはより大きなリスクの見込みを持つ意思決定を行う傾向があります。

研究者らは、大規模言語モデルが、仮定するよう求められた性別のアイデンティティに基づいて、金融リスク行動に対する根本的なアプローチを体系的に変化させることを明らかにしました。この研究では、OpenAI、Google、DeepSeek、Metaなどの企業のAIシステムがテストされました。

研究により、AIモデルは性別のアイデンティティに応じてリスク回避的であることが示された

研究 によると、AIモデルは複数のシナリオでテストされ、異なる性別のアイデンティティでプロンプトを与えられたとき、リスク許容度を劇的にシフトしました。DeepSeek ReasonerとGoogleのGemini 2.0 Flash-Liteは最も顕著な効果を示し、女性として応答するよう求められたとき、よりリスク回避的になり、女性が金融決定を下す際に統計的により慎重であるという現実のパターンと相関を示しました。

研究者は、ホルト・ローリー課題と呼ばれる標準的な経済学テストを使用したと主張しました。課題の間、参加者には安全な選択肢とリスクの高い宝くじの選択肢の間の10の意思決定が提示されます。選択が進むにつれて、リスクの高い選択肢の当選確率が増加します。

参加者が安全なベットからリスクの高い選択に切り替える段階が、その人のリスク許容度を明らかにします。つまり、参加者が早期に切り替える場合、リスクを取る傾向があり、遅く切り替える場合はリスク回避的であることを意味します。

DeepSeek Reasonerの場合、女性として行動するよう言われたとき、男性としてプロンプトを与えられたときと比較して、一貫して安全なオプションを選択しました。その違いは明確で、モデルは各性別プロンプトに対して35回の試行全体で一貫性を示しました。

Gemini も同様のパターンを示しましたが、その効果の強さはばらつきがありました。一方、OpenAIのGPTモデルは性別プロンプトに影響されず、仮定する性別に関係なくリスク中立のアプローチを維持しました。

研究者は、ユーザーはこれらの変化に気づかないと言う

研究者によると、OpenAIはモデルをよりバランスの取れたものにするために取り組んでいました。2023年の以前の研究では、そのモデルが明確な政治的バイアスを示しており、OpenAIは現在それを対処したようです。

新しい研究では、モデルは 偏った回答を30％減少 させました。アリ・マザキ率いる研究チームは、これは基本的に人間のステレオタイプの反映であると述べています。

「この観察された逸脱は、性別がリスクテイク行動に影響を与えることが示されている人間の意思決定における確立されたパターンと一致しており、女性は通常、男性よりも大きなリスク回避を示します」と研究は述べています。

研究はまた、AIモデルが性別を超えて他の役割を説得力を持って演じられるかどうかを調べました。権力のある人物や災害シナリオにいる自分を想像するよう求められたとき、モデルは調整しました。一部のモデルは文脈に合わせてリスクプロファイルを変更しましたが、他のモデルは頑固に一貫性を保ちました。

研究者らは、これらの行動パターンの多くがユーザーにはすぐに明らかではないと主張しています。会話の性別の手がかりに基づいて推奨事項を微妙にシフトするAIモデルは、それが起きていることに誰も気づかないまま、社会的バイアスを強化する可能性があります。

例えば、融資承認システムが女性に対してより保守的になったり、クライアントが女性であるために安全なポートフォリオを提案する投資アドバイザーが、アルゴリズムの客観性という名目でその格差を引き継いだりします。