生成AIモデルはバイアスをエンコードし、意味のない情報を捏造する：研究が明らかに

最近の数ヶ月間、ChatGPT、GoogleのBard、Midjourneyなどの生成AIモデルは、個人および職業的な目的の両方で個人の間でますます人気を集めています。しかし、研究は懸念される傾向を明らかにしています：これらのモデルはユーザーにバイアスや否定的なステレオタイプを埋め込みつつ、意味のないが一見正確な情報を生成・拡散しています。 

この現象の帰結は、捏造された情報の拡散の不均衡な負担を負う疎外されたグループにとって特に深刻です。これらのモデルがワールドワイドウェブでより一般的になるにつれて、それらが人間の信念に影響を与える可能性への懸念が高まっています。ジャーナル『Science』に掲載された新しいPerspective記事は、この問題の規模を評価し、解決策を開発するために心理学者と機械学習専門家の間の緊密な協力が必要であることを強調しています。

Trinityのコンピュータサイエンスおよび統計学部で客員准教授であり、Mozilla Foundationで信頼できるAIのシニアフェローであるAbeba Birhaneは、生成モデルは不確実性を伝える能力を欠いており、適切な修飾子や疑念の表現なしに自信に満ちた流暢な応答を生み出すと説明しています。その結果、個人はこれらの回答を事実に基づく正確なものと受け入れ、信念の歪みにつながります。さらに、金融および責任上の利害は、企業が生成モデルを知的、共感的、あるいは子供のような存在として擬人化するようインセンティブを与え、問題を悪化させます。

疎外されたグループへの不均衡な影響

バイアスと捏造された情報の影響は、疎外された人口の間で特に顕著です。この研究は、生成モデルが人間の信念とバイアスに与える影響を測定するための詳細な分析の実施の重要性を強調しています。モデルの出力における捏造や否定的なステレオタイプによって最も影響を受ける疎外されたコミュニティに焦点を当てることで、将来の研究と介入はこれらの問題に対処することができます。

Perspectiveで議論されている具体的な例の一つは、法制度における生成AIモデルの使用に関連しています。これらのモデル内の統計的規則性は、黒人被告により高いリスクスコアが割り当てられる結果をもたらしました。その結果、これらのパターンを内面化した裁判官は、アルゴリズムの予測に合わせて量刑慣行を変更する可能性があります。このようなシステムの使用を制限する規制が導入されたとしても、この統計学習のメカニズムは、黒人個人が再犯する可能性が高いという信念を永続させることができます。

バイアスと捏造を克服する課題

バイアスと捏造された情報が個人によって受け入れられると、それらを解消するのは困難になります。子供たちは特に脆弱であり、技術を擬人化しやすく、影響を受けやすいです。これを認識し、生成AIモデルの仕組みについて一般大衆、政策立案者、学際的な科学者を教育し、既存の誤情報を解消し、これらの技術を取り巻く誇張された主張に対抗する取り組みが行われるべきです。

Perspective記事は、生成モデルが人間の信念とバイアスに与える影響を評価するための迅速かつ包括的な分析の重要性を強調しています。また、疎外された人口への影響を軽減するための targeted な介入と資源を呼びかけています。さらに、これらのAIモデルの機能に関する現実的な洞察を提供し、その能力を取り巻く誤解や過大評価を是正するために、教育および意識向上キャンペーンを実施すべきです。

生成AIモデルが広く採用されるにつれて、バイアスのエンコードと意味のない情報の捏造は重大な懸念事項となっています。疎外されたコミュニティは不均衡な影響を受け、既存の不平等を悪化させています。心理学者と機械学習専門家の協力は、この問題の規模を評価し、効果的な解決策を策定するために不可欠です。生成モデルが人間の信念とバイアスに与える影響を理解することで、これらのAIシステムに埋め込まれたバイアスと捏造に対処し、是正することが可能になります。