Unregulierte KI-Dermatologie-Apps stellen eine Gefahr für Nutzer dar

Eine kürzlich in JAMA Dermatology veröffentlichte Studie wirft Licht auf die potenziellen Risiken, die mit dermatologischen mobilen Anwendungen (Apps) auf Basis künstlicher Intelligenz (KI) verbunden sind, und betont Bedenken hinsichtlich ihrer Validierung, Transparenz und Kommunikation mit den Nutzern. Die Studie, die von Forschern durchgeführt wurde, die die Landschaft der in großen App-Stores verfügbaren KI-Dermatologie-Apps bewerten wollten, zeigt einen Mangel an konsistenter Validierung, behördlicher Genehmigung und Beteiligung von Klinikern am Entwicklungsprozess auf.

Inkonsistente Leistung und mangelnde Regulierung

Die Forscher führten eine umfassende Überprüfung öffentlich verfügbarer dermatologischer mobiler Apps mit KI-Funktionen durch, wobei sie Begriffe wie „Dermatologie“, „Derm“ und „Haut“ sowohl im Apple App Store als auch im Android App Store verwendeten. Von den zunächst identifizierten 909 Apps erfüllten nur 41 die Einschlusskriterien für eine detaillierte Analyse, nachdem Duplikate und nicht eligible Anwendungen entfernt worden waren.

Die Studie hebt hervor, dass keine der identifizierten Apps eine Genehmigung von Aufsichtsbehörden wie der FDA erhalten hat, trotz ihrer Behauptungen, bei Hauterkrankungen zu helfen. Dieser Mangel an Regulierung und die inkonsistente Leistung der Apps wecken Bedenken hinsichtlich der Zuverlässigkeit und Sicherheit der Nutzung dieser Tools für medizinische Zwecke.

Transparenz- und Datenschutzprobleme

Eine der wichtigsten Erkenntnisse der Studie ist die mangelnde Transparenz hinsichtlich der Wirksamkeit von KI-Modellen, der für die Entwicklung verwendeten Datensätze und des Umgangs mit von Nutzern eingereichten Bildern. Ein erheblicher Teil der überprüften Apps gab keine Informationen über Trainings- und Testdatensätze, Algorithmen-Details oder die Beteiligung von Klinikern, insbesondere Dermatologen, am Entwicklungsprozess preis.

Darüber hinaus gaben viele Apps nicht offen, wie von Nutzern eingereichte Bilder verwendet werden, was Bedenken hinsichtlich des Datenschutzes und des potenziellen Missbrauchs sensibler medizinischer Daten aufwirft. Nur ein kleiner Teil der Apps gab an, dass sie keine Nutzerbilder speichern. Im Gegensatz dazu gaben andere an, diese auf sicheren Cloud-Servern zu speichern, ohne Nutzung oder Datenschutzmaßnahmen zu erklären.

Implikationen und zukünftige Forschung

Die Forscher unterstreichen die Notwendigkeit weiterer Untersuchungen zur klinischen Wirksamkeit und Sicherheit von KI-Dermatologie-Apps sowie der Etablierung klarer regulatorischer Richtlinien, um die Patientensicherheit und den Datenschutz zu gewährleisten. Sie erkannten auch die Grenzen ihrer Studie an, insbesondere hinsichtlich der regionalen Verfügbarkeit von Apps in App-Stores, was dazu geführt haben könnte, dass internationale Apps von ihrer Analyse ausgeschlossen wurden.