不受监管的AI皮肤病学应用对用户构成威胁

最近发表在《JAMA皮肤病学杂志》上的一项研究揭示了与人工智能（AI）皮肤病学移动应用程序（app）相关的潜在风险，强调了对验证、透明度和用户沟通的担忧。该研究由旨在评估主要应用商店中可用的AI皮肤病学应用格局的研究人员开展，揭示了缺乏一致的验证、监管批准和临床医生参与开发过程。

性能不一致和缺乏监管

研究人员对Apple和Android应用商店中具有AI功能的公开可用皮肤病学相关移动应用程序进行了全面审查，使用了“dermatology”、“derm”和“skin”等术语。在最初确定的909个应用程序中，在消除重复和不合格的应用程序后，只有41个符合深入分析的标准。

该研究强调，尽管这些应用程序声称有助于治疗皮肤状况，但没有一个获得FDA等监管机构的批准。这种缺乏监管以及应用程序之间性能的不一致引发了对使用这些工具进行医疗目的的可靠性和安全性的担忧。

透明度和隐私问题

研究的关键发现之一是AI 模型的有效性、用于开发的数据集以及用户提交图像的处理方式缺乏透明度。审查的大量应用程序未提供有关训练和测试数据集、算法细节或临床医生（特别是皮肤科医生）参与开发过程的信息。

此外，许多应用程序未能披露用户提交的图像将如何被使用，引发了对隐私和滥用敏感医疗数据的潜在担忧。只有一小部分应用程序表示他们不存储用户图像。相比之下，其他应用程序承认将它们存储在安全的云服务器上，但没有解释使用情况或数据保护措施。

影响和未来研究

研究人员强调，需要进一步调查AI皮肤病学应用的临床疗效和安全性，并建立明确的监管指南以确保患者安全和数据隐私。他们还承认其研究的局限性，特别是关于应用商店中应用程序的区域可用性，这可能导致他们的分析中遗漏了国际应用程序。