Medizinische KI verbessert sich zwar bei der Diagnose, aber der Nachweis des Behandlungserfolgs hinkt noch hinterher
- Medizinische KI verbessert die Leistungsfähigkeit bei Diagnosen und klinischen Entscheidungen, doch Studien liefern bisher nur begrenzte Belege für bessere Patientenergebnisse.
- Eine randomisierte Studie in Kenia ergab eine bessere Dokumentation und bessere Behandlungsentscheidungen mit LLM-Unterstützung, jedoch keine signifikante Reduzierung des Therapieversagens innerhalb von 14 Tagen.
- Die FDA prüft derzeit, wie generative KI-basierte Medizinprodukte vor ihrer Markteinführung evaluiert und nach ihrem Einsatz in realen klinischen Umgebungen überwacht werden sollten.
Zahlreiche Studien aus dem Jahr 2026 zeigen eine anhaltende Lücke in der medizinischen KI: Die Systeme können die Entscheidungen von Ärzten beeinflussen und beeindruckende Diagnoseergebnisse erzielen, ohne dass nachgewiesen werden kann, dass die Patienten dadurch tatsächlich gesünder werden.
Dies ist wichtig für Krankenhäuser, die diese Systeme kaufen, für Unternehmen, die deren Nutzen demonstrieren wollen, und für Behörden, die festlegen, welche Beweise berücksichtigt werden sollten, sobald KI in Arztpraxen eingeführt wird.
Das Beweisproblem, das die Regulierungsbehörden zunehmend unter die Lupe nehmen
Die Diskrepanz zwischen der bemerkenswerten Leistungsfähigkeit von KI und ihrer nachgewiesenen Wirksamkeit für Patienten scheint nicht mehr zu ignorieren zu sein. Die Financial Times brachte diese Situation in ihrer Überschrift auf den Punkt:
„Die medizinische KI hat ein Beweisproblem.“
Dieses Thema hat den Bereich akademischer Diskussionen verlassen. Die FDA stellt sich ähnliche Fragen, wenn sie prüft, wie diese KI-gestützten Medizinprodukte vor und nach ihrer Anwendung bewertet werden können. Das Diskussionspapier vom 18. August, zu dem bis zum 19. Oktober öffentliche Stellungnahmen möglich sind, behandelt Themen wie Risikobewertung, Zulassungsprüfung und Überwachung nach der Markteinführung.
Die FDA stellt ausdrücklich klar, dass es sich bei diesem Papier lediglich um ein Diskussionspapier handelt und nicht um einen Leitlinienentwurf, einen Vorschlag zur Änderung der Richtlinien oder einen Hinweis auf zukünftige regulatorische Erwartungen.
Eine frühere Untersuchung der FDA zur Leistungsfähigkeit im realen Einsatz hat auch die Problematik der Modellabweichung und die Grenzen statischer Kennzahlen thematisiert. Dies wirft eine grundlegendere Frage auf, die nicht länger ignoriert werden kann: Wie messen wir Sicherheit und Effizienz, sobald eine KI-Lösung den Laborbetrieb verlässt?
In Kenia konnte die KI-Unterstützung das Therapieversagen nicht verringern
In einer am 26. Juni in der Fachzeitschrift „Nature Medicine“ veröffentlichten Studie behandelten 103 medizinische Fachkräfte an 16 Einrichtungen von Penda Health in Nairobi und Kiambu Patienten mit und ohne Unterstützung durch ein groß angelegtes Sprachmodell (LLM) zur Entscheidungsfindung. Von den 9.691 registrierten Patienten wurden 9.347 in die Primäranalyse einbezogen.
Die Rate an Therapieversagen nach 14 Tagen betrug 2,2 % in der AI-Gruppe und 2 % in der Kontrollgruppe, die adjustierte Odds Ratio lag somit bei 0,77. Dieser Unterschied ist jedoch statistisch nicht signifikant (p = 0,13). Es traten keine schwerwiegenden unerwünschten Ereignisse im Zusammenhang mit der Intervention auf.
Die Gruppe, die KI einsetzte, verfügte zwar über eine bessere Dokumentation und angemessenere Diagnosen und Behandlungspläne. Die Aussagekraft des Ergebnisses liegt jedoch darin begründet, dass verbesserte Prozessmaßnahmen keine Verbesserung des Behandlungsergebnisses für die Patienten bewirkten.
Der Trend ähnelt dem der RAPIDx-AI-Studie von 2024. In der Primäranalyse von 3.029 Patienten lag der kombinierte Endpunkt aus kardiovaskulärem Tod, Myokardinfarkt oder ungeplanter kardiovaskulärer Wiedereinweisung nach sechs Monaten bei 26 % unter KI-gestützter Therapie und bei 26,4 % unter Standardtherapie. Innerhalb der Gruppe mit Nicht-Typ-1-Myokardinfarkt wurde die invasive Koronarangiographie unter KI-gestützter Therapie jedoch um 47 % seltener durchgeführt.
Die Ergebnisse steigen immer weiter; der Beweis aus der Praxis lässt auf sich warten.
Eine randomisierte, länderübergreifende Studie unter der Leitung von Nicholas Rounding ergab, dass GPT-4o die Leistungen von 249 Ärzten bei der Beurteilung klinischer Fallvignetten in Kenia um 18 %, in Indonesien um 10,7 % und in den Niederlanden um 7,2 % verbesserte (P < 0,05).
Es handelte sich jedoch um simulierte Fälle und nicht um reale Situationen. Die Teilnehmer der Kontrollgruppe durften weder das Internet nutzen noch klinische Protokolle anwenden, und mögliche Schäden wurden nicht bewertet. Die Studie bestätigt, dass KI die Leistung unter kontrollierten Bedingungen steigert, sagt aber nichts über die Auswirkungen auf die Patienten aus.
Die Ergebnisse einer weiteren, in Nature Medicine veröffentlichten Studie von Li Zhang, Jakob Nikolas Kather und ihren Kollegen zeigten eine Genauigkeit von 90,04 % für einen Benchmark mit sieben Krankheiten. In dieser Studie wurden durch die Einführung eines Konsistenzschwellenwerts 49,4 % der Fälle mit einer Genauigkeit von 98,9 % vom System vor Ort korrekt erfasst, während die übrigen Fälle von Fachkräften überprüft werden mussten. Die Autoren wiesen jedoch auf die Notwendigkeit weiterer Bestätigung durch Studien im realen klinischen Umfeld hin.
Warum ein Arzt, der „im Bilde ist“, das nicht klärt
Laut einer Evidenzkarte findet sich agentenbasierte KI mittlerweile nicht nur in der Verwaltung, sondern auch in der Diagnose, im Management und bei anderen Aufgaben im Gesundheitswesen, was die zunehmende Bedeutung der Steuerung und Überprüfung solcher Systeme erklärt.
Ein weiterer Kommentar in NPJ Digital Medicine stellt fest, dass die bloße Anwesenheit eines Arztes keine angemessene Supervision und Steuerung gewährleistet. Automatisierungsverzerrungen können dazu führen, dass fehlerhafte Empfehlungen eher akzeptiert werden, während effektive Supervision ausreichend Wissen, Zeit und Befugnisse erfordert, um das System zu hinterfragen und einzugreifen.
Ohne diese Bedingungen, warnen die Autoren, kann die menschliche Aufsicht zu kaum mehr als einer Haftungsabsicherung werden:
Die Verantwortung könnte auf Kliniker abgewälzt werden, von denen erwartet wird, dass sie Fehler aufdecken, für deren Erkennung oder Korrektur sie nicht gut aufgestellt sind … eine moralische Bruchzone.
Damit verschiebt sich die Debatte weg von der Frage, ob ein Mensch technisch gesehen „im Regelkreis“ ist, hin zu der Frage, ob diese Person tatsächlich in der Lage ist, das System gegebenenfalls zu hinterfragen, außer Kraft zu setzen und zu stoppen.
Die wirtschaftlichen Interessen hinter der Vorsicht
MarketsandMarkets prognostiziert für den Markt für KI im Gesundheitswesen ein Wachstum von 36,67 Milliarden US-Dollar im Jahr 2026 auf 194,79 Milliarden US-Dollar im Jahr 2031, was einer durchschnittlichen jährlichen Wachstumsrate von 39,7 % entspricht. Sollte sich dieses Wachstum realisieren, werden Krankenhäuser vermehrt KI-Lösungen in Betracht ziehen, obwohl die Evidenzlage zu den Patientenergebnissen weiterhin uneinheitlich ist.
Das könnte den Wettbewerbsdruck hin zu etwas verlagern, das schwieriger zu vermarkten, aber für die Anbieter wertvoller ist: vorausschauende Validierung, lokale Leistungsüberwachung und Aufsicht, die tatsächlich geprüft werden können.
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Häufig gestellte Fragen
Hat die KI-Studie in Kenia die Patientenergebnisse verbessert?
Nein. Die am 26. Juni in Nature Medicine veröffentlichte Studie von Penda Health ergab eine Therapieversagensrate von 2,2 % mit KI-Unterstützung gegenüber 2,0 % ohne. Dieser Unterschied war statistisch nicht signifikant, obwohl das Tool als sicher eingestuft wurde.
In welchem Maße verbesserte KI die Ergebnisse der Ärzte in der länderübergreifenden Studie?
In der Studie von Rounding et al. erzielten Ärzte mit Zugang zu GPT-4o in Kenia 18 Prozentpunkte höhere Werte, in Indonesien 10,7 und in den Niederlanden 7,2. Diese Verbesserungen basierten jedoch auf klinischen Fallbeispielen unter kontrollierten Bedingungen und nicht auf realen Patienten.
Was schlägt die FDA für KI-gestützte Medizinprodukte vor?
Das Diskussionspapier der FDA vom 18. August über generative KI-gestützte Medizinprodukte weist auf eine Regulierung über den gesamten Lebenszyklus hin, die die Bewertung vor der Markteinführung, die Überwachung nach der Markteinführung und die Leistung im realen Einsatz umfasst. Öffentliche Kommentare sind bis zum 19. Oktober möglich.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Kryptowährungen. Er studierte Informatik an der National Open University of Nigeria. Seine Artikel erschienen auf verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufbauend auf seinem Informatikstudium konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
