Die neue Regel zur KI-Diskriminierung im Gesundheitswesen ist in Arbeit

Das Büro für Bürgerrechte (OCR) im Ministerium für Gesundheit und Soziale Dienste (HHS) hat kürzlich eine endgültige Regelung zur Anwendbarkeit von Abschnitt 1557 des Affordable Care Act herausgegeben, der vorschreibt, dass alle mit Bundesmitteln finanzierten Gesundheitsprogramme keine Diskriminierung aufgrund von Rasse, Hautfarbe, Nationalität, Geschlecht, Alter oder Behinderung dulden dürfen.

Diese Regel stimmt mit der Entscheidung des Obersten Gerichtshofs in Bostock v. Clayton County im Jahr 2020 überein, und Abschnitt 1557 wird als Diskriminierung „aufgrund des Geschlechts“ verstanden, was sowohl sexuelle Orientierung als auch Geschlechtsidentität umfasst. Die letzte Regel klärte weiter, dass auch wenn maschinelles Lernen in einer KI-gestützten Technologie angewendet wird, die Nutzungsstandards der Anbieter unter Abschnitt 1557 bleiben. Daher sind sie verpflichtet, potenzielle Diskriminierungsrisiken zu prüfen und anzugehen.

Bewertung von KI-Bias-Risiken

Gemäß der Governance-Regel ist ein „Patientenversorgungs-Entscheidungsunterstützungstool“ jede eigenständige oder kombinierte Konfiguration einer Technologie oder Methode, die eine betroffene Einrichtung zur Unterstützung klinischer Entscheidungsfindung verwendet. Zum Beispiel gehören zu den Anbietern von Tools für direkte Patientenversorgungsanwendungen prädiktive Algorithmen, die das Risiko und die Schwere zukünftiger Gesundheitsereignisse bei Patienten einschätzen können, sowie Analyse-Engines, die verwendet werden, um medizinische Ansprüche basierend auf der Notwendigkeit der Behandlung zu befürworten oder abzulehnen. 

Das OCR erklärte, dass durch die Nutzung solcher Tools und die Bevorzugung von KI-basierten Entscheidungsfindung die Situation jedes Patienten neu bewertet werden muss. Mehrere Studien haben gezeigt, dass die Abhängigkeit von bestimmten Algorithmen zu rassischen und ethnischen Ungleichheiten führte. Die obige Definition umfasst autonome Fahrzeuge und nicht-autonome Hilfsmittel wie Flussdiagramme. Gesundheitstechnologie könnte somit unfair sein, wenn Menschen mit Behinderungen daran gehindert werden, gleiche Versorgung zu erhalten, und die Anbieter die individuellen Merkmale der Gesundheitsuntersuchung nicht berücksichtigen.

Angemessene Maßnahmen zur Bias-Prävention

Die Fähigkeit der betroffenen Einrichtung, die zusätzliche Verbraucherverantwortung zu übernehmen, oder ihre finanziellen Mittel. Ob die Produkte mit der Absicht hergestellt wurden, für ihren vorgesehenen Zweck verwendet zu werden, wie von den Entwicklern und Regulierungsbehörden genehmigt, unabhängig vom Datenlayout, sollten die Entwickler die Einrichtung über das Risiko der Diskriminierung aufklären.

Klarstellen, ob das betroffene Subjekt (auf dessen Behauptung die betroffene Einrichtung handelt) einem Prozess gefolgt ist oder ob die betroffene Einrichtung (d. h. eine Organisation, die im Namen des Subjekts handelt) bereits einen zur Bewertung der verwendeten Tools entwickelt hat.

Die Regel unterscheidet sich radikal von der früheren Regel, wonach die Medicare-Part-B-Finanzierung als Bundeshilfe gilt, wenn sie an Anbieter und Lieferanten ausgezahlt wird. Die leichte Reduzierung der Anzahl der Personen, die Part-B-Gelder erhalten, und ihre Befreiung von Abschnitt 1557-Anforderungen wird dazu führen, dass sie Abschnitt 1557 und andere vom OCR-Büro umgesetzten Bürgerrechtsgesetze einhalten.