UNESCO 报告：AI 继续放大性别偏见

联合国教科文组织 (UNESCO) 最近的一份报告揭示了当代人工智能 (AI) 模型持续存在的性别偏见。尽管一直在努力减轻偏见，但该研究发现，包括大型语言模型 (LLM) 在内的 AI 系统倾向于放大社会偏见，特别是围绕性别方面的偏见。

AI 模型中的性别偏见

报告揭示，流行的 LLM 经常生成性别歧视和厌女内容，反映了社会偏见。例如，当提示包含提及性别和性身份的语句时，Meta 的开源 Llama 2 模型在 20% 的情况下产生了包含性别歧视或厌女语言的输出。虽然一些 AI 模型（如 ChatGPT）表现出更好的行为，但即使在微调后，偏见仍然存在。

UNESCO 警告称，如果不加以解决，算法偏见可能会更深入地嵌入医疗保健和金融等关键领域。有偏见的 AI 算法可能会加剧这些领域现有的性别差异，阻碍实现性别平等的努力。

报告中突出的一个重大关注点是偏见医疗数据对 AI 驱动的健康系统的影响。数据收集实践历来偏向男性受试者，导致 AI 训练数据中出现性别差距。这种偏见产生了切实的后果，正如一项使用 AI 工具筛查肝病的研究所示，由于偏向男性的训练数据，该工具漏诊了 44% 的女性病例。

解决不平衡

Unstoppable Domains 的首席运营官 Sandy Carter 强调了解决 AI 训练数据中性别差距的重要性。她主张增加数据透明度以突出性别偏差，并提出了新颖的方法，如众包女性健康数据或生成合成数据以减轻差异。

卡特强调了在开发公平的人工智能系统时，训练数据中公平代表性的必要性。通过整合多样化的数据来源并在数据收集实践中保持透明，开发人员可以致力于最大限度地减少人工智能模型中的偏见。

UNESCO 报告 starkly 提醒人们注意 AI 中性别偏见带来的持续挑战。为了构建 AI 系统以公平地服务于所有用户，需要在开发的每个阶段（从数据收集到模型部署）共同努力以解决偏见。

通过提高对这些问题的认识并倡导包容性做法，利益相关者可以致力于实现人工智能在促进医疗保健及其他领域性别平等方面的潜力。只有通过协作行动和对公平的承诺，才能确保所有个人，无论性别如何，都能充分实现人工智能技术的承诺。