Um mehr Transparenz in die oft undurchsichtigen Gewässer der künstlichen Intelligenz (KI) im Gesundheitswesen zu bringen, hat das US-Gesundheitsministerium (HHS) eine wegweisende Maßnahme eingeführt – die KI-Transparenzregel (HTI-1). Obwohl sie für ihren Versuch, die Komplexität prädiktiver KI-Modelle zu beleuchten, gelobt wird, warnen Experten davor, dass die Regel zwar hilfreich ist, aber möglicherweise keine umfassende Lösung für die Herausforderungen dieser sich rasant entwickelnden Technologie bietet.
Die Transparenzregel für KI entstand aus der Erkenntnis eines weit verbreiteten Mangels an Transparenz auf dem Markt für KI im Gesundheitswesen, insbesondere im Hinblick auf prädiktive Modelle. Jeff Smith, stellvertretender Direktor für Zertifizierung und Prüfung im Büro des Nationalen Koordinators (ONC) für Gesundheitstechnologie des US-Gesundheitsministeriums (HHS), unterstreicht die Dringlichkeit dieser Initiative. Die Regel zielt darauf ab, den Informationsmangel bezüglich Design, Entwicklung, Test, Training und Evaluierung prädiktiver KI-Modelle zu beheben, der nachweislich Millionen von Amerikanern geschadet hat.
Die Grundsätze der Regel erläutern
Im Rahmen der Transparenzrichtlinie für KI hat das ONC zwei übergeordnete Richtlinienkategorien festgelegt. Erstens schreibt die Richtlinie die Bereitstellung umfassender Informationen darüber vor, wie prädiktive Entscheidungsunterstützungssysteme (DSIs) konzipiert, entwickelt, trainiert, evaluiert und eingesetzt werden sollen. Dies ist ein entscheidender Schritt, um Nutzern ein tieferes Verständnis der verwendeten KI-Algorithmen zu ermöglichen.
Die Regelung legt außerdem fest, dass das Risikomanagement eine zentrale Rolle beim Einsatz prädiktiver DSIs spielt und deren Entwicklung und Implementierung durch Governance-Strukturen gesteuert werden müssen. Durch die Schaffung eines Rahmens, der Informationspflichten und Risikomanagement umfasst, zielt die Regelung darauf ab, eine Grundlage für die Bewertung der Qualität von KI-Algorithmen auf nationaler Ebene zu schaffen.
Mandar Karhade, Leiter des Bereichs Daten und Analytik bei Avalere Health, betont, dass die Intention hinter manchen KI-Modellen nicht immer transparent ist. Ob es sich um Diagnose, Kosteneinsparung oder ein anderes Ziel handelt – die mangelnde Transparenz birgt potenzielle Herausforderungen.tronPatientenakten (EHRs) erweisen sich als besonders anfällig, da KI-Funktionen wie Oracles „Autocomplete“ Bedenken hinsichtlich der Genauigkeit und unbeabsichtigter Datenergänzungen aufwerfen.
Jeff Smith zieht Parallelen zwischen der KI-Transparenzregel und einer Nährwertkennzeichnung auf Lebensmitteln und hebt deren Bedeutung für die Bereitstellung essenzieller Informationen hervor. Meghan O'Connor, Rechtsexpertin bei Quarles & Brady, stellt diese Analogie infrage und verweist auf die subjektive und schwer messbare Natur der offengelegten Informationen. Dies wirft Fragen auf, wie Entwickler von IT-Lösungen im Gesundheitswesen solche Informationen kommunizieren und wie Leistungserbringer sie in ihre Risikoanalyse integrieren.
Bewertung des Anwendungsbereichs der KI-Transparenzregel
Niam Yaraghi, ein Senior Fellow ohne festendent an der Brookings Institution, bietet eine kritische Perspektive. Obwohl er das hehre Ziel der Regelung, Fairness im Bereich der KI zu gewährleisten, anerkennt, hält er sie für etwas reaktionär. Yaraghi plädiert für Maßnahmen, die rasche Fortschritte in der KI fördern und Hindernisse wie Datensilos im Gesundheitswesen beseitigen.
Die Regelung stellt einen wichtigen Fortschritt im komplexen Geflecht der KI-Transparenz dar. Angesichts der sich wandelnden Natur der KI im Gesundheitswesen bleiben jedoch Fragen offen: Kann Transparenz allein einen verantwortungsvollen und gerechten Einsatz von KI im Gesundheitswesen ? Weist die Regelung inhärente Grenzen hinsichtlich ihrer Fähigkeit auf, den dynamischen Herausforderungen an der Schnittstelle von Technologie und Gesundheitswesen zu begegnen? Während sich die Akteure in diesem sich entwickelnden Feld vorsichtig bewegen, bleibt das Streben nach einem ausgewogenen Verhältnis zwischen Innovation und Verantwortlichkeit von größter Bedeutung.
