为了厘清人工智能（AI）在医疗保健领域常常存在的种种复杂问题，美国卫生与公众服务部（HHS）推出了一项关键举措——人工智能透明度规则（HTI-1）。该规则因其试图阐明预测性人工智能模型的复杂性而备受赞誉，但专家也提醒，尽管该规则有益，但可能不足以全面解决这项快速发展的技术所固有的挑战。.
人工智能透明度规则的出台源于对医疗保健人工智能市场，特别是预测模型领域普遍缺乏透明度的认识。美国卫生与公众服务部（HHS）国家卫生信息技术协调办公室（ONC）认证与测试副主任杰夫·史密斯强调了这项举措的紧迫性。该规则旨在解决预测性人工智能模型在设计、开发、测试、训练和评估等方面信息匮乏的问题，而信息匮乏已导致数百万美国人遭受损害。.
阐明该规则的原则
根据人工智能透明度规则，美国国家医疗信息技术协调办公室 (ONC) 最终确定了两大政策类别。首先，该规则强制要求提供关于预测性决策支持干预措施 (DSI) 的设计、开发、训练、评估和使用方式的全面信息。这标志着在帮助用户更深入地了解他们所使用的人工智能算法方面迈出了关键一步。.
此外，该规则还规定，风险管理在预测性数字信号基础设施（DSI）的部署中发挥着关键作用，治理必须指导其设计和实施。通过建立包含信息披露和风险管理的框架，该规则旨在为在全国范围内评估人工智能算法的质量奠定基础。.
Avalere Health 的数据与分析负责人 Mandar Karhade 强调，某些人工智能模型背后的意图并非总是透明的。无论目标是诊断、节省成本还是其他目的，这种不明确性都可能带来潜在挑战。tron健康记录 (EHR) 领域尤其容易受到影响，例如 Oracle 的“自动完成”等人工智能功能引发了人们对准确性和意外数据添加的担忧。.
杰夫·史密斯将人工智能透明度规则比作食品营养标签，强调其在提供关键信息方面的作用。夸尔斯·布雷迪律师事务所的法律专家梅根·奥康纳对这种类比提出质疑，指出所披露信息的主观性和不可量化性。这引发了人们对医疗信息技术开发人员如何传达此类信息以及医疗服务提供者如何将其整合到风险分析中的问题。.
评估人工智能透明度规则的范围
布鲁金斯学会非常dent 高级研究员尼亚姆·亚拉吉提出了批判性的观点。他承认该规则旨在确保人工智能领域的公平性，但认为其在某种程度上是反动的。亚拉吉倡导制定促进人工智能快速发展的政策，并消除医疗保健系统中的数据孤岛等障碍。.
在探索人工智能透明度的复杂过程中，这项规则代表着向前迈出的重要一步。然而，随着医疗保健领域努力应对人工智能的不断演变，一些问题依然存在：仅靠透明度能否确保人工智能在医疗保健领域？这项规则在应对技术与医疗保健交叉领域带来的动态挑战方面是否存在固有的局限性？在各利益相关方谨慎探索这一不断变化的领域之际，寻求创新与问责之间的平衡仍然至关重要。
