Las aplicaciones de dermatología con IA no reguladas plantean una amenaza para los usuarios

Un estudio reciente publicado en JAMA Dermatology arroja luz sobre los posibles riesgos asociados con las aplicaciones móviles de dermatología con inteligencia artificial (IA), destacando las preocupaciones sobre su validación, transparencia y comunicación con los usuarios. El estudio, realizado por investigadores que buscaban evaluar el panorama de las aplicaciones de dermatología con IA disponibles en las principales tiendas de aplicaciones, revela una falta de validación constante, aprobación regulatoria e implicación de los clínicos en el proceso de desarrollo.

Rendimiento inconsistente y falta de regulación

Los investigadores realizaron una revisión exhaustiva de las aplicaciones móviles de dermatología disponibles públicamente con funciones de IA, utilizando términos como «dermatología», «derm» y «piel» tanto en las tiendas de aplicaciones de Apple como de Android. De las 909 aplicaciones identificadas inicialmente, solo 41 cumplieron los criterios de inclusión para un análisis en profundidad después de eliminar duplicados y aplicaciones no elegibles.

El estudio destaca que ninguna de las aplicaciones identificadas ha obtenido la aprobación de organismos reguladores como la FDA, a pesar de sus afirmaciones de ayudar con afecciones cutáneas. Esta falta de regulación y el rendimiento inconsistente entre las aplicaciones generan preocupaciones sobre la fiabilidad y la seguridad de utilizar estas herramientas con fines médicos.

Problemas de transparencia y privacidad

Uno de los hallazgos clave del estudio es la falta de transparencia en torno a la eficacia de los modelos de IA ; los conjuntos de datos utilizados para el desarrollo y el manejo de las imágenes enviadas por los usuarios. Una parte significativa de las aplicaciones revisadas no proporcionaba información sobre los conjuntos de datos de entrenamiento y prueba, los detalles del algoritmo o la implicación de clínicos, especialmente dermatólogos, en el proceso de desarrollo.

Además, muchas aplicaciones no revelaron cómo se utilizarían las imágenes enviadas por los usuarios, lo que suscita preocupaciones sobre la privacidad y el posible mal uso de datos médicos sensibles. Solo una fracción de las aplicaciones indicó que no almacena imágenes de los usuarios. En contraste, otras admitieron almacenarlas en servidores en la nube seguros sin explicar su uso ni las medidas de protección de datos.

Implicaciones e investigación futura

Los investigadores subrayan la necesidad de realizar más investigaciones sobre la eficacia clínica y la seguridad de las aplicaciones de dermatología con IA, así como de establecer directrices regulatorias claras para garantizar la seguridad de los pacientes y la privacidad de los datos. También reconocieron las limitaciones de su estudio, especialmente en lo que respecta a la disponibilidad regional de las aplicaciones en las tiendas de aplicaciones, lo que pudo haber resultado en la omisión de aplicaciones internacionales de su análisis.