Regra de transparência da IA ​​revela benefícios potenciais em meio a limitações

Na tentativa de trazer clareza às águas muitas vezes turvas da inteligência artificial (IA) na área da saúde, o Departamento de Saúde e Serviços Humanos (HHS) instituiu uma medida crucial: a Regra de Transparência da IA ​​(HTI-1). Embora elogiada por sua tentativa de esclarecer as complexidades dos modelos preditivos de IA, especialistas alertam que a regra, apesar de benéfica, pode não ser suficiente para fornecer uma solução abrangente para os desafios inerentes a essa tecnologia em rápida evolução.

A Regra de Transparência da IA ​​surge do reconhecimento da falta generalizada de transparência no mercado de IA para a saúde, particularmente no que diz respeito aos modelos preditivos. Jeff Smith, Diretor Adjunto de Certificação e Testes do Escritório do Coordenador Nacional (ONC) para Tecnologia da Informação em Saúde do Departamento de Saúde e Serviços Humanos (HHS), destaca a urgência desta iniciativa. A regra busca abordar a escassez de informações sobre o projeto, desenvolvimento, teste, treinamento e avaliação de modelos preditivos de IA, o que levou a danos documentados que afetaram milhões de americanos.

Esclarecendo os princípios da regra

De acordo com a Regra de Transparência da IA, o ONC finalizou duas categorias gerais de políticas. Primeiro, a regra exige a disponibilidade de informações abrangentes sobre como as Intervenções de Apoio à Decisão (IADs) preditivas são projetadas, desenvolvidas, treinadas, avaliadas e como devem ser utilizadas. Isso representa um passo crucial para capacitar os usuários com uma compreensão mais profunda dos algoritmos de IA que utilizam.

Além disso, a norma estipula que a gestão de riscos desempenha um papel fundamental na implementação de sistemas de inteligência artificial preditivos e que a governança deve orientar seu projeto e implementação. Ao estabelecer uma estrutura que inclui a divulgação de informações e a gestão de riscos, a norma visa criar uma base para avaliar a qualidade dos algoritmos de IA em escala nacional.

Mandar Karhade, Líder de Dados e Análises da Avalere Health, enfatiza que a intenção por trás de alguns modelos de IA nem sempre é transparente. Seja o objetivo o diagnóstico, a redução de custos ou outro, a falta de clareza representa desafios potenciais. Os Registrostronde Saúde (EHRs) surgem como um domínio suscetível, com recursos de IA como o "preenchimento automático" da Oracle levantando preocupações sobre a precisão e a inclusão não intencional de dados.

Jeff Smith traça paralelos entre a Regra de Transparência da IA ​​e um rótulo nutricional de alimentos, destacando seu papel no fornecimento de informações essenciais. Meghan O'Connor, especialista jurídica da Quarles & Brady, contesta essa analogia, apontando a natureza subjetiva e imensurável das informações divulgadas. Isso levanta questões sobre como os desenvolvedores de TI em saúde comunicam tais informações e como os provedores as integram em suas análises de risco.

Avaliando o escopo da regra de transparência da IA

Niam Yaraghi, pesquisador sênior nãodent da Brookings Institution, oferece uma perspectiva crítica. Embora reconheça o nobre objetivo da regra de garantir a equidade na IA, ele a considera um tanto reacionária. Yaraghi defende políticas que promovam avanços rápidos na IA e que abordem barreiras como os silos de dados no sistema de saúde.

Navegando pelo labirinto da transparência da IA, a regra representa um avanço significativo. No entanto, à medida que o setor da saúde lida com a natureza em constante evolução da IA, algumas dúvidas persistem: a transparência por si só pode garantir o uso responsável e equitativo da IA ​​na saúde? Existem limitações inerentes à capacidade da regra de abordar os desafios dinâmicos impostos pela interseção entre tecnologia e saúde? Enquanto as partes interessadas avançam com cautela por essa arena em transformação, a busca pelo equilíbrio entre inovação e responsabilidade continua sendo fundamental.