- 当算法偏向特定群体时，AI 偏见便成为一个关注点，而 IEEE P7003 旨在通过解决偏见的来源并提供解决方案，使 AI 系统更加公平。
- 算法偏见可能发生在开发阶段、系统内部或用户交互过程中，从而影响准确性和公平性。
- IEEE P7003 建议使用偏见档案、多元化团队和定期评估来构建伦理 AI 系统，确保其造福所有人。
在当今的数字时代，人工智能（AI）在我们的日常生活中发挥着越来越关键的作用，从个性化的流媒体推荐到医疗保健应用。然而，AI 的普及引发了对算法偏见的担忧——即 AI 系统由于底层假设或训练数据不平衡而产生带有偏见的结果。
为了正面解决这一问题，IEEE 标准协会（IEEE SA）启动了 P7003 工作组，旨在建立全面的框架，以创建减轻偏见并确保公平性的 AI 系统。
算法偏见是 AI 领域的一个紧迫问题，当机器学习算法无意中产生有利于某些群体或属性的结果时，就会产生这种偏见。这种偏见通常根植于算法训练的数据中，其后果可能非常深远。例如，主要基于单一人口统计数据进行训练的面部识别软件可能导致对其他群体的误认或排斥，从而引发现实世界的后果，如边境安检时旅客的延误。
偏见的三个来源
IEEE P7003 工作组确定了 AI 系统中可能出现的三个主要偏见来源：
算法开发者的偏见：这种偏见源于开发者设定的优化目标。例如，旨在最大化业务系统中工人产出的算法可能会无意中忽视工人的健康，从而导致偏见。
系统内的偏见：某些系统在不同类别之间固有地表现出性能差异，例如基于种族和性别的面部识别准确性差异。
系统用户的偏见：用户在解释和依据算法输出采取行动时也可能引入偏见。确认偏误是其中一个例子，即用户接受与其先入为主信念一致的信息，而不进行事实核查。
IEEE P7003 的作用
IEEE SA 的 P7003 工作组旨在通过提供 AI 系统的开发框架来解决这些问题，以避免意外、不公正且差异性的有害用户结果。该小组与 CertifAIEd 的算法偏见认证标准合作，确保 AI 系统的开发考虑到公平性和伦理。
虽然偏见通常被视为有害，但在某些情况下，有意偏见是可以接受且必要的。例如，旨在帮助男性管理前列腺健康的医疗保健应用程序自然会偏向男性用户，因为医疗背景决定了这一点。相反，旨在提高乳腺癌意识的应用程序应保持无偏见，以有效地服务于两性。
评估和管理偏见风险
为了促进对 AI 系统偏见的意识和理解，IEEE P7003 提供了高效 AI 系统开发的建议：
使用偏见档案：采用偏见档案来评估和理解系统中偏见的影响和风险。
考虑意图和背景：明确定义系统的意图，并理解其运行的背景，确保与利益相关者的需求保持一致。
任务定义：明确定义系统的任务，并确保其结果与这些任务保持一致。
利益相关者意识：了解与系统互动或受系统影响的用户和利益相关者。
定期评估：在系统生命周期内定期重新评估系统的偏见，因为使用情况可能会演变，利益相关者也可能发生变化。
背景适应：如果系统在新的背景下部署，请重新审视偏见档案，考虑其行为可能需要如何适应。
多样化的开发团队：鼓励由开发人员和评估人员组成的多样化团队，带来不同的视角并减少偏见。
迈向伦理 AI 开发
IEEE P7003 旨在为个人和组织提供方法论，强调在设计、测试和评估算法时的问责制和清晰度。这些方法论有助于避免对用户产生不公正的差异性影响。这样做使算法创建者能够向监管机构和用户传达，他们采用了最新的最佳实践，以在 AI 开发 中优先考虑伦理考量。
这一倡议与更广泛的伦理 AI 运动相一致，正如最近发布的 IEEE 出版物《伦理对齐设计：优先考虑人类福祉的人工智能与自主系统愿景》所示。该文件鼓励技术人员在创建自主和智能技术时优先考虑伦理考量，进一步强调了伦理 AI 开发的重要性。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Brenda Kanana
Brenda 拥有 4 年以上专注于加密货币、人工智能及新兴技术的经验。她曾就职于 Zycrypto、Blockchain Reporter 和 The Coin Republic，如今以 Cryptopolitan 为家。她在蒙巴萨技术大学获得的社会学学位使她能够始终把握读者的脉搏。
