医療分野におけるAI差別の新たなルールが進行中

保健福祉省（HHS）の公民権局（OCR）は最近、連邦政府の資金で運営される医療プログラムが人種、肌の色、国籍、性別、年齢、または障害に基づいて差別することを制限する医療費負担適正化法第1557条の適用に関する最終規則を発行しました。

この規則は、2020年のボストック対クレイトン郡最高裁判所の判決に沿ったものであり、第1557条は「性別に基づく」差別と理解されており、これには性的指向と性dent性の両方が含まれます。さらに、この最後の規則では、人工知能を活用した技術に機械学習が適用される場合でも、プロバイダーの利用基準は第1557条の適用範囲にとどまると規定されています。したがって、プロバイダーは差別の潜在的なリスクを検討し、対処する必要があります。.

AIバイアスリスクの評価

ガバナンス規則では、「患者ケア意思決定支援ツール」とは、対象事業体が臨床意思決定を支援するために使用するあらゆる技術または手法の単独または複合構成を指します。例えば、直接的な患者ケアアプリケーション向けツールを提供する一部のサプライヤーは、患者のリスクと将来の健康イベントの重症度を評価できる予測アルゴリズムや、治療の必要性に基づいて医療請求を承認または却下するために使用する分析エンジンを提供しています。. 

OCRは、このようなツールの活用と AIに基づく 意思決定の優先化に伴い、すべての患者の状況を再考する必要があると述べています。いくつかの研究では、特定のアルゴリズムへの依存が人種や民族間の格差につながることが示されています。上記の defiには、自動運転車やフローチャートのような非自動化支援機器が含まれます。したがって、障害のある人が平等なケアを受けられず、医療提供者が健康診断の個々の特性を考慮していない場合、医療技術は不公平になる可能性があります。

合理的な偏見防止の取り組み

対象事業者が追加の消費者責任を負う能力、またはその財政的余裕。製品が開発者および規制当局によって承認された本来の用途のために製造されているかどうか、またデータのレイアウトに関わらず、開発者は対象事業者に対し、差別のリスクについて啓蒙するよう努めるべきである。.

データ主体（対象事業体がその代理として行動している主体）がプロセスに従っているかどうか、または対象事業体（つまり、対象者に代わって行動している組織）が、使用されているツールを評価するためのプロセスをすでに開発しているかどうかを明確にします。.

この規則は、メディケア・パートBの資金が医療提供者および供給者に提供される場合、連邦政府の援助として分類されるという以前の規則とは根本的に異なります。パートBの資金受給者数をわずかに減らし、彼らを 第 1557条の要件から免除することで、彼らは第1557条およびOCR事務所が施行するその他の公民権規制を遵守することになります。