Die neue Regel der KI-Diskriminierung im Gesundheitswesen ist im Gange

Das Office for Civil Rights (OCR) im US-Gesundheitsministerium ( HHS) hat kürzlich eine endgültige Regelung zur Anwendbarkeit von Abschnitt 1557 des Affordable Care Act erlassen, der die Diskriminierung aufgrund von Rasse, Hautfarbe, Nationalität, Geschlecht, Alter oder Behinderung in allen mit Bundesmitteln finanzierten Gesundheitsprogrammen einschränkt.

Diese Regelung steht im Einklang mit der Entscheidung des Obersten Gerichtshofs im Fall Bostock gegen Clayton County aus dem Jahr 2020. Paragraph 1557 wird als Diskriminierung „aufgrund des Geschlechts“ verstanden, was sowohl sexuelle Orientierung als auchdentumfasst. Die Regelung stellte zudem klar, dass die Nutzungsstandards der Anbieter auch dann unter Paragraph 1557 fallen, wenn maschinelles Lernen in einer KI-gestützten Technologie eingesetzt wird. Daher sind sie verpflichtet, potenzielle Diskriminierungsrisiken zu prüfen und ihnen entgegenzuwirken.

Bewertung der KI-Verzerrungsrisiken

Gemäß der Governance-Regel ist ein „Entscheidungsunterstützungsinstrument für die Patientenversorgung“ jede eigenständige oder kombinierte Konfiguration von Technologien oder Methoden, die eine Einrichtung zur Unterstützung klinischer Entscheidungen einsetzt. Beispielsweise bieten einige Anbieter von Instrumenten für die direkte Patientenversorgung prädiktive Algorithmen an, die das Patientenrisiko und den Schweregrad zukünftiger Gesundheitsereignisse einschätzen können, sowie Analyse-Engines, die zur Genehmigung oder Ablehnung von Behandlungsansprüchen auf Grundlage der Behandlungsnotwendigkeit verwendet werden. 

Das OCR erklärte, dass bei der Nutzung solcher Tools und der Bevorzugung KI-basierter Entscheidungsfindung die Situation jedes einzelnen Patienten neu bewertet werden müsse. Mehrere Studien hätten gezeigt, dass die Abhängigkeit von bestimmten Algorithmen zu rassischen und ethnischen Ungleichheiten führe. Die obige defiumfasse sowohl automatisierte Fahrzeuge als auch nicht-automatisierte Hilfsmittel wie Flussdiagramme. Gesundheitstechnologie könne daher unfair sein, wenn Menschen mit Behinderungen vom gleichberechtigten Zugang zur Versorgung ausgeschlossen würden und die Leistungserbringer die individuellen Merkmale der Gesundheitsuntersuchung nicht berücksichtigten.

Angemessene Maßnahmen zur Vermeidung von Vorurteilen

Die Fähigkeit des betroffenen Unternehmens, die zusätzliche Verbraucherverantwortung zu übernehmen, oder seine finanziellen Mittel. Unabhängig davon, ob die Produkte gemäß der von den Entwicklern und Aufsichtsbehörden genehmigten Bestimmung und Verwendungszweck hergestellt werden, sollten die Entwickler – ungeachtet des Datenlayouts – bestrebt sein, das Unternehmen über das Diskriminierungsrisiko aufzuklären.

Machen Sie deutlich, ob die betroffene Person (in deren Auftrag die verantwortliche Stelle handelt) ein Verfahren befolgt hat oder ob die verantwortliche Stelle (d. h. eine Organisation, die im Auftrag der betroffenen Person handelt) bereits ein solches Verfahren zur Bewertung der verwendeten Instrumente entwickelt hat.

Die Regelung weicht grundlegend von der bisherigen Regelung ab, nach der die Finanzierung von Medicare Teil B als Bundesbeihilfe eingestuft wurde, wenn sie an Leistungserbringer und Lieferanten ging. Durch eine geringfügige Reduzierung der Anzahl der Empfänger von Teil-B-Mitteln und deren Befreiung von des Paragraphen 1557 wird sichergestellt, dass sie Paragraph 1557 und andere vom Office for Civil Rights (OCR) erlassene Bürgerrechtsbestimmungen einhalten.