Kann KI im Gesundheitswesen unvoreingenommen werden, Forscher kämpfen um die Antwort

Jeder Patient sollte unabhängig von seinen körperlichen Merkmalen und Identitäten Zugang zu guter Gesundheitsversorgung haben. Bestimmte Personen oder Gruppen wurden jedoch oft der Fairness im Gesundheitssystem beraubt aufgrund von Ungleichheiten und impliziten Verzerrungen in der medizinischen Behandlung und Diagnose. 

KI-Modelle im Gesundheitswesen sind voreingenommen

Eine Gruppe von Forschern des Massachusetts Institute of Technology (MIT) hat nun festgestellt, dass künstliche Intelligenz und maschinelles Lernen die Tendenz haben, Gesundheitsungleichheiten und -ungerechtigkeiten unter Untergruppen, die oft unterrepräsentiert sind, weiter zu verstärken. Dies kann beeinflussen, wie diese Gruppen diagnostiziert und behandelt werden. 

Geleitet von einer Assistenzprofessorin der Abteilung für Elektrotechnik und Informatik (EECS) am MIT, Marzyeh Ghassemi, veröffentlichten die Forscher ein Forschungs paper, das die Wurzeln der Ungleichheiten analysiert, die in der KI entstehen können, wodurch die Modelle, die insgesamt gut funktionieren, versagen, wenn es um unterrepräsentierte Untergruppen geht.

Die Analyse konzentrierte sich auf „Subpopulation-Verschiebungen“, die der Bericht als „Unterschiede in der Art und Weise definiert, wie maschinelles Lernmodelle für eine Untergruppe im Vergleich zu einer anderen funktionieren.“ Das primäre Ziel war es, die Arten von Subpopulation-Verschiebungen zu bestimmen, die mit KI-Techniken auftreten können, und potenziell zukünftige Fortschritte für gerechtere Modelle zu informieren. 

„Wir wollen, dass die Modelle fair sind und für alle Gruppen gleich gut funktionieren, aber stattdessen beobachten wir konsistent das Vorhandensein von Verschiebungen zwischen verschiedenen Gruppen, die zu einer minderwertigen medizinischen Diagnose und Behandlung führen können“, sagt der MIT-Doktorand Yuzhe Yang.

Forscher identifizieren 4 Verschiebungen, die Verzerrungen in KI-Modellen auslösen⟦/N1⟧

Die MIT-Forscher identifizierten vier Arten von Verschiebungen – spurious Korrelationen, Attributungleichgewicht, Klassenungleichgewicht und Attributverallgemeinerung – die Ungerechtigkeiten und Verzerrungen in KI-Techniken verursachen.

„Verzerrungen können tatsächlich aus dem stammen, was die Forscher die Klasse oder das Attribut nennen, oder aus beiden“, heißt es in dem Bericht. 

Die Forscher gaben ein Beispiel, bei dem maschinelle Lernmodelle verwendet wurden, um zu bestimmen, ob eine Person eine Lungenentzündung hat oder nicht, basierend auf der Untersuchung von Röntgenbildern, mit zwei Attributen – die Personen, die geröntgt werden, sind entweder weiblich oder männlich, und zwei Klassen – eine bestehend aus Personen, die die Lungenkrankheit haben, und eine andere infektionsfrei.

„Wenn es in diesem bestimmten Datensatz 100 Männer gab, die mit Lungenentzündung diagnostiziert wurden, für jede Frau, die mit Lungenentzündung diagnostiziert wurde, könnte dies zu einem Attributungleichgewicht führen, und das Modell würde wahrscheinlich eine bessere Arbeit bei der korrekten Erkennung von Lungenentzündung bei einem Mann als bei einer Frau leisten“, erklärte das Team.

Können KI-Modelle auf unvoreingenommene Weise funktionieren?

Die MIT-Forscher sagten, sie seien in der Lage, das Auftreten von spurious Korrelationen, Klassenungleichgewicht und Attributungleichgewicht zu reduzieren, indem sie den „Klassifikator“ und den „Encoder“ verbesserten. Die andere Verschiebung, „Attributverallgemeinerung“, bestand jedoch weiterhin. 

„Egal, was wir mit dem Encoder oder Klassifikator gemacht haben, wir sahen keine Verbesserungen in Bezug auf die Attributverallgemeinerung“, sagt Yang, „und wir wissen noch nicht, wie wir das angehen sollen.“

Das Team untersucht derzeit öffentliche Datensätze für Zehntausende von Patienten und Brust-Röntgenbildern, um festzustellen, ob Gesundheitsfachkräfte in maschinellen Lernmodellen Fairness in der medizinischen Diagnose und Behandlung erreichen können.

Sie erkannten jedoch an, dass es immer noch eines besseren Verständnisses der Quellen der Ungerechtigkeit bedarf und wie diese in unser aktuelles System eindringen, um die gewünschte Gleichheit zu erreichen.