進行中の医療分野におけるAI差別の新規則

連邦政府の保健・人間サービス省（HHS）内の市民権局（OCR）は、連邦資金による健康プログラムが人種、肤色、国籍、性別、年齢、または障害を理由とした差別を行わないよう制限する「オバマケア（医療保険改正法）第1557条」の適用に関する最終規則を最近発表しました。

この規則は、2020年の連邦最高裁判所によるBostock対クレイトン郡事件の決定と整合しており、第1557条は「性別に基づく」差別として理解されており、これには性的指向と性同一性も含まれます。最後の規則はさらに、人工知能搭載技術において機械学習が適用されても、提供者の使用基準は第1557条の下に留まることを解決しました。したがって、差別の潜在的なリスクを調査し、対処することが求められます。

AIバイアスリスクの評価

ガバナンス規則の下、「患者ケア意思決定支援ツール」とは、対象機関が臨床意思決定を支援するために使用する、単独または組み合わせた構成のあらゆる技術または方法を指します。例えば、直接患者ケアアプリケーション用のツールサプライヤーには、患者のリスクや将来の健康イベントの重症度を評価できる予測アルゴリズムや、治療の必要性に基づいて医療請求を承認または拒否するために使用される分析エンジンが含まれます。 

OCRは、これらのツールの利用とAIベースの意思決定を優先することで、各患者の状況を見直す必要があると述べています。複数の研究により、特定のアルゴリズムへの依存が人種的および民族的な格差をもたらすことが示されています。上記の定義には、自動運転車やフローチャートなどの非自動化支援が含まれます。障害を持つ人々が同等のケアを受けることが妨げられ、提供者が健康チェックの個別特性を考慮しない場合、健康技術は不公平なものとなり得ます。

合理的なバイアス防止措置

対象機関が追加の消費者責任を引き受ける能力またはその財政的手段。データレイアウトに関係なく、開発者や規制当局によって承認された意図された用途のために製品が作成されているかどうかにかかわらず、開発者は差別のリスクについて機関を教育するよう努めるべきです。

データ主体（対象機関がその代表として行動している人）がプロセスに従っているか、または対象機関（すなわち、主体の代表として行動する組織）がすでに使用されているツールの評価のために1つを開発しているかどうかを明確にする。

この規則は、メディケアPart Bの資金提供が提供者や供給業者に与えられた場合、連邦援助として分類されるという以前の規則と大きく異なります。Part Bの資金を受ける人の数をわずかに減らし、彼らを第1557条の要件から免除することで、彼らは第1557条およびOCR事務局が実施するその他の市民権規制に準拠することになります。