医疗保健领域人工智能歧视新规正在制定中

美国卫生与公众服务部 (HHS) 民权办公室 (OCR)最近发布了一项关于《平价医疗法案》第 1557 条适用性的最终规则，该规则限制任何由联邦资金资助的医疗保健计划不得基于种族、肤色、国籍、性别、年龄或残疾进行歧视。

这项规则与2020年博斯托克诉克莱顿县案（Bostock v. Clayton County）最高法院的判决相一致，第1557条被理解为“基于性别”的歧视，包括性取向和性别dent。最后一条规则进一步明确，即使机器学习应用于人工智能技术，服务提供商的使用标准仍然受第1557条的约束。因此，他们必须审查并解决任何潜在的歧视风险。.

评估人工智能偏见风险

根据相关管理规则，“患者护理决策支持工具”是指受监管实体用于辅助临床决策的任何技术或方法的独立或组合配置。例如，一些直接用于患者护理应用的工具供应商提供的工具包含预测算法，这些算法可以评估患者未来健康事件的风险和严重程度，以及用于根据治疗必要性批准或拒绝医疗索赔的分析引擎。. 

OCR指出，随着此类工具的运用和对 人工智能 决策的推崇，必须重新审视每位患者的情况。多项研究表明，依赖某些算法会导致种族和民族差异。上述 defi涵盖了自动驾驶车辆和非自动化辅助工具，例如流程图。因此，如果残疾人士无法获得平等的医疗服务，且医疗服务提供者在健康检查中不考虑个体差异，那么医疗技术就可能造成不公平。

合理的偏见预防措施

受监管实体承担额外消费者责任的能力或其财务状况。无论产品是否按照开发商和监管机构批准的预期用途生产，也无论数据布局如何，开发商都应努力向受监管实体普及歧视风险。.

明确说明数据主体（受监管实体代表其行事）是否一直在遵循某种流程，或者受监管实体（即代表数据主体行事的组织）是否已经制定了评估所用工具的流程。.

这项规定与之前的规定截然不同，之前的规定认为，如果将联邦医疗保险B部分资金提供给医疗服务提供者和供应商，则该资金属于联邦援助。略微减少领取B部分资金的人数，并豁免他们遵守 条 的规定，将使他们遵守第1557条以及民权办公室实施的其他民权法规。