Der Aufstieg generativer KI im Gesundheitswesen stößt auf Kritik und Skepsis

Künstliche Intelligenz (KI) als wachsendes Anwendungsgebiet im Gesundheitswesen wird sowohl positiv als auch kritisch betrachtet. Öffentliche Partnerschaften und beträchtliche Investitionen der Institutionen wecken große Hoffnungen in die Technologie; dennoch bezweifeln Fachleute und Patienten, ob die Technologie bereits ausgereift genug ist oder die Patientengesundheit gefährden könnte.

Herausforderungen bei der öffentlichen Akzeptanz von KI im Gesundheitswesen

Als bedeutender Wegbereiter des Wandels integrieren viele IT-Giganten und Unternehmen generative KI in Anwendungen im Gesundheitswesen. Google und Highmark Health sind zwei Beispiele für Agenturen, die einzigartige Tools für die Patientenaufnahme zur Personalisierung entwickeln.

Amazons AWS hat sich der Anwendung generativer KI-Methoden und der Analyse medizinischer Datenbanken verschrieben. Auch Microsoft Azure engagiert sich aktiv im Aufbau von Systemen, die die Kommunikation zwischen Patienten und Anbietern von Gesundheitsprodukten ermöglichen. Unternehmen wie Ambience Healthcare und Nabla arbeiten daran, die Rolle der KI im klinischen Alltag deutlich zu erweitern.

Der Deloitte-Bericht ist nur eine von mehreren Studien, die zeigen, dass trotz der jüngsten Durchbrüche und technologischen Fortschritte nur 53 % der Amerikaner den Einsatz von generativer KI zur Verbesserung der Gesundheitsversorgung in Betracht ziehen würden. 

Die Tatsache, dass die verbleibenden 47 % der Amerikaner immer noch keindent in generative KI als Instrument zur Kostensenkung und Verbesserung der Zugänglichkeit haben, deutet auf einige erhebliche Lücken im Markt hin.

Technische Schwierigkeiten und ethische Probleme

Die Zuverlässigkeit generativer KI im Gesundheitswesen rückt immer stärker in den Fokus, da Studien ihre Unvorhersehbarkeit und Nachteile aufzeigen. Eine Studie in JAMA Pediatrics belegte eine hohe Fehlerrate bei der Diagnose von Kinderkrankheiten durch die Ärzte des Testteams von OpenAIs ChatGPT. Studien am Beth Israel Deaconess Medical Center beobachteten ähnliche Ergebnisse mit GPT. 

Im Bereich der medizinischen Verwaltungsfunktion deckte der MedAlign-Benchmark defides Modells bei alltäglichen Aufgaben auf. Dabei wurde eine Fehlerquote von 35 % ermittelt.

Diese Probleme betreffen Menschen, die befürchten, dass die Möglichkeit einer Verletzung dieser Rechte entstehen könnte. Studien aus gesundheitsbezogenen Bereichen der Stanford Medicine legen nahe, dass die aufkommende KI-Technologie gesellschaftliche Stereotypen verstärken und die gesundheitliche Ungleichheit deutlich verschärfen könnte. 

Datenschutz, Sicherheitsrisiken und die sich ändernden Gesetze im Zusammenhang mit dem Einsatz von KI im Gesundheitswesen bedeuten, dass deren Nutzung aus mehreren Komplexitätsebenen besteht.

Experten wie Andrew Borkowski vom VA Sunshine Healthcare Network und Jan Egger von der Universität Duisburg-Essen bestätigen, dass robuste Validierungs- und Regulierungsmechanismen für die aufkommenden generativen KI-Technologien geschaffen werden sollten. 

 Ausgewogenheit zwischen KI-Innovation und Aufsicht im Gesundheitswesen 

Sie befürworten KI eher als unterstützende Maßnahme denn als eigenständige Lösung und betonen daher, dass jede Anwendung von erfahrenen Medizinern genauestens überwacht wird.

Und im Anschluss daran… versuchen die menschlichen Behörden der Weltgesundheitsorganisation, die Richtlinien zu verbessern, wonach die Forschung und Validierung von KI-Anwendungen im Gesundheitswesen streng sein und genügend Menschen für eine gewisse Aufsicht einbeziehen sollten. 

Diese Empfehlung zielt darauf ab, den Implementierungsprozess von KI-Technologien zu überwachen, um deren Sicherheit und Nutzen für Verbraucher zu gewährleisten. Als empfohlene Maßnahmen werden Transparenz, unabhängigedent und die Einbeziehung verschiedener Interessengruppen genannt.

Der Gesundheitssektor steht an einem Wendepunkt, an dem künstliche Intelligenz eine immer wichtigere Rolle spielt. Obwohl das Potenzial von KI zur grundlegenden Veränderung der Gesundheitsversorgung anerkannt ist, bestehen weiterhin technische, ethische und regulatorische Herausforderungen für ihren Einsatz in der Medizin.