研究揭示人工智能在职业声望认知中的偏见

国际劳工组织 (ILO) 最近进行的一项研究深入探讨了人工智能 (AI) 在评估各种职业的声望和社会价值方面的应用，揭示了其潜在的益处和挑战。 

这项名为“社会的技术建构：比较 GPT-4 和英国人类受访dent在职业评估中的应用”的研究，将大型语言模型 (LLM) GPT-4 执行的 AI 评估与英国人类dent者的评估进行了比较。.

人工智能评估与人工评估的比较

在这项开创性的研究中，研究dent首先要求英国的受访者对不同职业的声望和社会价值进行排名。随后，研究人员让 GPT-4 提供类似的排名，模拟 100 位随机受访dent的观点，每位受访者都代表了“英国的平均人群”。 

该研究旨在衡量人工智能系统的评估结果与人类参与者的评估结果的一致性，以及人工智能是否表现出任何人口统计偏差。.

值得注意的是，该研究发现通过这两种不同方法获得的结果之间存在显著相关性。GPT-4 在预测英国民众对不同职业的声望和社会价值的平均看法方面表现tron，有效地创建了相对职业排名。. 

人工智能通过算法理解人类普遍意见的能力，使其有可能为职业研究做出贡献，并带来诸如提高效率、降低成本、加快速度以及提高捕捉社会认知准确性等优势。.

人工智能与职业声望之间的复杂关系

这项研究虽然凸显了人工智能在职业研究领域的潜力，但也揭示了一些挑战。GPT-4 倾向于高估与数字经济相关的职业或那些涉及大量市场营销和销售工作的职业的声望和价值。. 

相反，与人类评估者相比，它低估了某些非法或传统上受污名化的职业所具有的声望和社会价值。此外，当人工智能的算法指令被操纵时，它难以理解英国少数族裔群体所感知到的职业声望和社会价值的等级制度。.

人口统计偏差的重要性

该研究强调的一个关键方面是人工智能模型中存在的人口统计偏差。目前的大型语言模型，包括 GPT-4，主要反映的是西方、受过良好教育、工业化、富裕（WEIRD）人群的观点。. 

这些群体虽然在全球范围内只占少数，但他们为人工智能模型训练所用的数据做出了巨大贡献。因此，像GPT-4这样的人工智能系统可能会无意中忽略人口少数群体或弱势群体的视角。.

人工智能对工作领域的影响

这项研究的发现对人工智能系统在工作领域的应用具有深远的影响。虽然人工智能可以作为一种有价值的辅助工具，尤其是在处理海量非结构化文本、语音和图像数据方面，但其局限性也必须认真考虑。. 

这包括其可能忽略少数群体观点和视角。在提供职业建议或进行算法绩效评估等情境下，该研究强调了解决这些局限性并确保公平性和包容性的重要性。.