Aplicativos de Dermatologia por IA Não Regulamentados Representam Ameaça aos Usuários

Um estudo recente publicado na JAMA Dermatology lança luz sobre os potenciais riscos associados às aplicações de dermatologia por inteligência artificial (IA) em aplicativos móveis (apps), enfatizando preocupações quanto à sua validação, transparência e comunicação com o usuário. O estudo, conduzido por pesquisadores que visavam avaliar o cenário de aplicativos de dermatologia por IA disponíveis nas principais lojas de aplicativos, revela uma falta de validação consistente, aprovação regulatória e envolvimento de clínicos no processo de desenvolvimento.

Desempenho inconsistente e falta de regulamentação

Os pesquisadores conduziram uma revisão abrangente de aplicativos móveis de dermatologia de acesso público com recursos de IA, usando termos como “dermatologia”, “derm” e “pele” nas lojas de aplicativos Apple e Android. Dos 909 aplicativos inicialmente identificados, apenas 41 atenderam aos critérios de inclusão para análise aprofundada após a eliminação de duplicatas e aplicativos não elegíveis.

O estudo destaca que nenhum dos aplicativos identificados obteve aprovação de órgãos reguladores como a FDA, apesar de suas alegações de auxiliar no tratamento de condições de pele. Essa falta de regulamentação e o desempenho inconsistente entre os aplicativos levantam preocupações sobre a confiabilidade e a segurança do uso dessas ferramentas para fins médicos.

Questões de transparência e privacidade

Uma das principais descobertas do estudo é a falta de transparência em torno da eficácia dos modelos de IA; os conjuntos de dados usados para o desenvolvimento e o tratamento das imagens enviadas pelos usuários. Uma parte significativa dos aplicativos analisados não forneceu informações sobre conjuntos de dados de treinamento e teste, detalhes do algoritmo ou o envolvimento de clínicos, particularmente dermatologistas, no processo de desenvolvimento.

Além disso, muitos aplicativos não divulgaram como as imagens enviadas pelos usuários seriam usadas, levantando preocupações sobre privacidade e o potencial de uso indevido de dados médicos sensíveis. Apenas uma fração dos aplicativos indicou que não armazena imagens dos usuários. Em contraste, outros admitiram armazená-los em servidores de nuvem seguros sem explicar o uso ou as medidas de proteção de dados.

Implicações e pesquisa futura

Os pesquisadores enfatizaram a necessidade de mais investigações sobre a eficácia clínica e a segurança dos aplicativos de dermatologia por IA e o estabelecimento de diretrizes regulatórias claras para garantir a segurança do paciente e a privacidade dos dados. Eles também reconheceram as limitações de seu estudo, particularmente em relação à disponibilidade regional de aplicativos nas lojas de aplicativos, o que pode ter resultou na omissão de aplicativos internacionais de sua análise.