Les applications de dermatologie IA non réglementées posent une menace pour les utilisateurs

Une étude récente publiée dans JAMA Dermatology met en lumière les risques potentiels associés aux applications mobiles de dermatologie par intelligence artificielle (IA), soulignant les préoccupations concernant leur validation, leur transparence et la communication avec les utilisateurs. L'étude, menée par des chercheurs visant à évaluer le paysage des applications de dermatologie IA disponibles sur les principaux magasins d'applications, révèle un manque de validation cohérente, d'approbation réglementaire et d'implication des cliniciens dans le processus de développement.

Performances incohérentes et manque de réglementation

Les chercheurs ont effectué un examen approfondi des applications mobiles de dermatologie disponibles publiquement dotées de fonctionnalités IA, en utilisant des termes tels que « dermatologie », « derm » et « peau » dans les magasins d'applications Apple et Android. Sur les 909 applications initialement identifiées, seules 41 répondaient aux critères d'inclusion pour une analyse approfondie après élimination des doublons et des applications non éligibles.

L'étude souligne qu'aucune des applications identifiées n'a obtenu l'approbation d'organismes de réglementation tels que la FDA, malgré leurs allégations d'aider à traiter les affections cutanées. Ce manque de réglementation et les performances incohérentes parmi les applications suscitent des inquiétudes quant à la fiabilité et à la sécurité de l'utilisation de ces outils à des fins médicales.

Problèmes de transparence et de confidentialité

L'une des conclusions clés de l'étude est le manque de transparence concernant l'efficacité des modèles IA , les ensembles de données utilisés pour le développement et la gestion des images soumises par les utilisateurs. Une part significative des applications examinées ne fournissait aucune information sur les ensembles de données d'entraînement et de test, les détails de l'algorithme ou l'implication de cliniciens, en particulier de dermatologues, dans le processus de développement.

De plus, de nombreuses applications n'ont pas divulgué comment les images soumises par les utilisateurs seraient utilisées, soulevant des préoccupations concernant la confidentialité et le risque potentiel de mauvaise utilisation de données médicales sensibles. Seule une fraction des applications a indiqué ne pas stocker les images des utilisateurs. En revanche, d'autres ont admis les stocker sur des serveurs cloud sécurisés sans expliquer leur utilisation ou les mesures de protection des données.

Implications et recherches futures

Les chercheurs soulignent la nécessité de poursuivre les investigations sur l'efficacité clinique et la sécurité des applications de dermatologie IA, ainsi que d'établir des directives réglementaires claires pour garantir la sécurité des patients et la confidentialité des données. Ils ont également reconnu les limites de leur étude, en particulier concernant la disponibilité régionale des applications dans les magasins d'applications, ce qui a pu entraîner l'omission d'applications internationales de leur analyse.