職業上の威信認識におけるAIの偏見を研究が明らかに

国際労働機関（ILO）が最近実施した調査では、さまざまな職業の威信と社会的価値を評価する上での人工知能（AI）の利用について詳細に調査し、その潜在的な利点と課題の両方を明らかにしました。 

「社会の技術的構築：英国における職業評価のためのGPT-4と人間の回答dent比較」と題されたこの研究では、大規模言語モデル（LLM）であるGPT-4によって実行されたAI評価と、英国の人間の回答dentによる評価を比較しました。.

AIと人間の評価の比較

この画期的な研究では、まず英国の人間の回答dentに、様々な職業の威信と社会的価値を順位付けするよう依頼しました。その後、GPT-4に同様の順位付けを依頼し、それぞれが「英国の平均的なプロフィール」を表すランダムに選ばれた100人のdentの視点をシミュレートしました。 

この研究は、AI システムの評価が人間の参加者の評価とどの程度一致しているか、また AI が人口統計学的偏りを示しているかどうかを測定することを目的としていました。.

注目すべきことに、この研究では、これら2つの異なるアプローチによって得られた結果の間に有意な相関関係が見られました。GPT-4は、個々の職業の威信と社会的価値に関する英国人の平均的な見解を予測する上でtronに優れた能力を示し、相対的な職業ランキングを効果的に作成しました。. 

一般的な人間の意見をアルゴリズム的に理解するこの能力は、AI が職業研究に貢献する可能性を秘めており、効率性、費用対効果、スピードの向上、社会的認識を捉える際の精度向上などの利点をもたらします。.

AIと職業的威信の複雑な関係

この研究は職業研究におけるAIの可能性を強調する一方で、いくつかの課題も明らかにしました。GPT-4は、デジタル経済に関連する職業や、強力なマーケティング・販売要素を含む職業の威信と価値を過大評価する傾向がありました。. 

逆に、AIは、特定の違法または伝統的にスティグマ化されている職業に付与される威信と社会的価値を、人間の評価者と比較して過小評価しました。さらに、AIのアルゴリズム指示が操作された場合、英国の文脈における人口統計的マイノリティが認識する職業の威信と社会的価値の階層構造を理解するのに苦労しました。.

人口統計学的バイアスの重要性

この研究で強調された重要な側面の一つは、AIモデルにおける人口統計学的バイアスの存在です。GPT-4を含む現在の大規模言語モデルは、主に西洋、教育水準、工業化、富裕、人口統計学的（WEIRD）な集団の意見を反映しています。. 

これらのグループは世界的には少数派であるものの、AIモデルの学習に使用されるデータに大きく貢献してきました。その結果、GPT-4のようなAIシステムは、人口統計上の少数派や社会的弱者の視点を意図せず排除してしまう可能性があります。.

仕事の世界におけるAIの影響

この研究結果は、AIシステムの実務への応用に広範な影響を及ぼします。AIは、特に膨大な量の非構造化テキスト、音声、画像データの処理において、貴重な補完ツールとして機能する可能性がありますが、その限界についても慎重に検討する必要があります。. 

これには、人口統計上の少数派の意見や視点が考慮されない可能性も含まれます。キャリアアドバイスの提供やアルゴリズムによる業績評価といった場面において、本研究はこうした限界に対処し、公平性と包括性を確保することの重要性を強調しています。.