人工智能透明度规则揭示了潜在益处与局限性

为了厘清医疗保健领域人工智能（AI）中往往模糊不清的局面，美国卫生与公众服务部（HHS）实施了一项关键措施——人工智能透明度规则（HTI-1）。虽然该规则因试图阐明预测性人工智能模型的复杂性而受到赞誉，但专家警告称，尽管该规则有益，但可能无法为这一快速发展的技术中固有的挑战提供全面的解决方案。

人工智能透明度规则源于对医疗保健人工智能市场中普遍缺乏透明度的认识，特别是关于预测性模型。HHS 国家健康信息技术协调员办公室（ONC）认证与测试副主任 Jeff Smith 强调了这一举措的紧迫性。该规则旨在解决有关预测性人工智能模型的设计、开发、测试、训练和评估的信息稀缺问题，这些问题已导致数百万美国人受到 documented 伤害。

揭示规则的要旨

根据人工智能透明度规则，ONC 最终确定了两大总体政策类别。首先，该规则要求提供关于如何设计、开发、训练、评估和使用预测性决策支持干预措施（DSIs）的全面信息。这是赋予用户更深入理解其所用人工智能算法的关键一步。

此外，该规则规定风险管理在预测性 DSIs 的部署中发挥着关键作用，治理必须指导其设计和实施。通过建立包括信息披露和风险管理在内的框架，该规则旨在为在全国范围内评估人工智能算法的质量建立基准。

Avalere Health 数据和分析负责人 Mandar Karhade 强调，某些人工智能模型的意图并不总是透明的。无论是诊断、节省成本还是其他目标，缺乏清晰度都带来了潜在挑战。电子健康记录（EHRs）成为一个易受影响的领域，Oracle 的“自动完成”等功能引发了人们对准确性和意外数据添加的担忧。

Jeff Smith 将人工智能透明度规则与食品的营养标签相提并论，强调其在提供关键信息方面的作用。Quarles & Brady 的法律专家 Meghan O’Connor 挑战了这一类比，指出所披露信息的主观性和不可衡量性。这引发了关于健康 IT 开发商如何沟通此类信息以及提供商如何将其整合到风险分析中的问题。

评估人工智能透明度规则的适用范围

布鲁金斯学会非驻会高级研究员 Niam Yaraghi 提出了批评性的观点。虽然他承认该规则确保人工智能公平性的崇高目标，但他认为它有些反应过度。Yaraghi 倡导制定促进人工智能快速发展的政策，并解决医疗保健系统中数据孤岛等障碍。

在驾驭人工智能透明度的迷宫中，该规则是一个重要的进步。然而，随着医疗行业应对人工智能的不断演变，问题依然存在：仅靠透明度能否确保 医疗领域中人工智能的负责任和公平使用？该规则在应对技术与医疗交叉点带来的动态挑战方面是否存在固有的局限性？随着利益相关者在这个不断演变的领域中谨慎前行，在创新与问责之间寻求平衡仍然至关重要。