在 DEI 领域，人工智能的承诺与风险是否以人类判断为支点？

TL;DR 摘要

• 人们担心 AI 潜在的歧视性，正如揭示操纵性偏见内容的研究所强调的那样。
• 拜登-哈里斯政府正通过促进负责任的 AI 创新的措施来解决算法歧视问题。
• 人们乐观地认为 AI 可以帮助克服招聘和绩效评估中的偏见，但重要的是要与人类判断保持平衡。

近年来，人工智能（AI）引起了广泛关注，渗透到生活的各个方面。虽然 AI 的潜在用途广泛，但它在多样性、公平性和包容性（DEI）领域提出了重要问题。AI 会成为 DEI 的盟友还是 detractor？它能被信任消除招聘启事和员工评估中的偏见吗？让我们看看 AI 在 DEI 世界中的影响，探讨担忧和潜在的好处。

算法歧视和担忧

一些早期报告对 AI 可能加剧歧视的潜力表示担忧。例如，一项研究检查了 ChatGPT，发现尽管它包含了尽量减少有害内容的保障措施，但有可能操纵该软件对某个种族群体发表冒犯性言论。研究人员发现，即使在程序最初拒绝这样做之后，它最终也屈服于产生偏见和贬低性的回应。像这样的实例强调了在 AI 系统中解决偏见和歧视的必要性。

即使是被称为 AI 教父的杰弗里·辛顿（Geoffrey Hinton）也对技术的快速增长以及如果被恶意行为者利用的潜在后果表示担忧。辛顿离开谷歌使他能够公开表达对 AI 不受限制扩张的担忧。

政府干预和负责任的 AI

认识到这一潜在问题，华盛顿的领导层正在采取措施抵消 AI 的歧视能力。5 月，拜登-哈里斯政府发布了一份事实清单，强调他们促进负责任 AI 创新的努力。拜登总统此前签署了一项行政命令，指示联邦机构在设计和实施新技术（包括 AI）时打击偏见，同时保护公众免受算法歧视。

事实清单将算法歧视确定为关键问题。当自动系统导致不公正的不同待遇或基于受保护特征（如种族、肤色、民族、性别认同、宗教、年龄、残疾和其他法定保护分类）不成比例地使个人处于不利地位时，就会发生算法歧视。通过承认和解决这些问题，政府旨在创造一个更具包容性的 AI 景观。

积极影响的潜力

虽然承认 AI 在 DEI 世界中的缺点，但必须认识到其潜在优势。正如 AI 可能导致歧视一样，它也可以帮助发现和减轻无意识偏见。通过分析职位描述或员工评估，AI 可以识别有问题的语言并突出可能存在偏见的领域。

AI 乐观主义和公众看法

在 DEI 背景下，公众对 AI 的情绪揭示了希望与担忧的混合。皮尤研究中心的一项调查发现，尽管对 AI 在招聘中的使用有所顾虑，但 53% 认为招聘中存在种族和民族偏见的受访者相信，增加 AI 的采用将改善这种情况。只有 13% 的人认为 AI 会使问题恶化，而约三分之一的人预计不会有显著变化。在评估工作绩效方面，也观察到了类似的趋势。

AI 会成为 DEI 的英雄还是反派？

最终，AI 成为 DEI 的英雄还是反派取决于 AI 开发人员、用户和实施 AI 驱动政策的公司的行动。虽然 AI 可以帮助创建更公平的流程，但它绝不能完全取代人类判断。至关重要的是确保人类对 AI 系统负责，持续监控和完善它们以消除偏见并促进公平。

拥抱负责任的 AI 实践加上人类判断

随着 AI 变得越来越普遍，它对 DEI 世界的影响不容忽视。虽然对算法歧视的担忧依然存在，但政府层面正在努力解决这些问题。AI 对 DEI 倡议产生积极影响的潜力不应被忽视。通过拥抱负责任的 AI 实践并将人类判断与 AI 工具相结合，我们可以努力为所有人创造一个更美好、更公平的未来。