Regra de Transparência da IA Revela Benefícios Potenciais em Meio a Limitações
- O Departamento de Saúde e Serviços Humanos (HHS) apresenta a inovadora Regra de Transparência de IA (HTI-1), destinada a abordar a natureza opaca dos modelos de IA preditiva na saúde.
- Especialistas reconhecem os aspectos positivos da regra, enfatizando a necessidade de transparência nos modelos de IA. No entanto, surgem preocupações quanto à capacidade da regra de abordar de forma abrangente os desafios multifacetados impostos pela IA na saúde.
- A regra exige a divulgação de informações sobre o design, desenvolvimento e avaliação dos modelos de IA, semelhante a um rótulo nutricional. Críticos argumentam sobre a natureza subjetiva dessas informações e questionam sua eficácia na mitigação dos riscos associados a algoritmos tendenciosos.
Com o objetivo de trazer clareza às águas frequentemente turvas da inteligência artificial (IA) na saúde, o Departamento de Saúde e Serviços Humanos (HHS) instituiu uma medida fundamental – a Regra de Transparência da IA (HTI-1). Embora elogiada por sua tentativa de iluminar as intricacidades dos modelos de IA preditiva, os especialistas alertam que a regra, embora benéfica, pode não conseguir fornecer uma solução holística para os desafios enraizados nessa tecnologia em rápido avanço.
A Regra de Transparência da IA decorre do reconhecimento da falta generalizada de transparência no mercado de IA na saúde, particularmente em relação aos modelos preditivos. Jeff Smith, Diretor Adjunto de Certificação e Testes no Escritório do Coordenador Nacional (ONC) de Tecnologia da Informação em Saúde do HHS, destaca a urgência por trás dessa iniciativa. A regra busca abordar a escassez de informações sobre o design, desenvolvimento, teste, treinamento e avaliação de modelos de IA preditiva, o que levou a danos documentados que afetaram milhões de americanos.
Iluminando os princípios da regra
Sob a Regra de Transparência da IA, o ONC finalizou duas categorias políticas abrangentes. Primeiro, a regra exige a disponibilidade de informações abrangentes sobre como as Intervenções de Suporte à Decisão (DSIs) preditivas são projetadas, desenvolvidas, treinadas, avaliadas e devem ser usadas. Isso marca um passo crucial para capacitar os usuários com uma compreensão mais profunda dos algoritmos de IA que empregam.
Além disso, a regra estipula que o gerenciamento de riscos desempenha um papel fundamental na implantação de DSIs preditivas, e a governança deve orientar seu design e implementação. Ao estabelecer um framework que inclui divulgação de informações e gerenciamento de riscos, a regra visa criar uma linha de base para avaliar a qualidade dos algoritmos de IA em escala nacional.
Mandar Karhade, líder de Dados e Análise na Avalere Health, enfatiza que a intenção por trás de alguns modelos de IA nem sempre é transparente. Seja o objetivo o diagnóstico, a redução de custos ou outro fim, a falta de clareza apresenta desafios potenciais. Os Registros Eletrônicos de Saúde (EHRs) surgem como um domínio suscetível, com recursos de IA, como o “preenchimento automático” da Oracle, levantando preocupações sobre a precisão e a adição não intencional de dados.
Jeff Smith traça paralelos entre a Regra de Transparência da IA e um rótulo nutricional para alimentos, destacando seu papel em fornecer informações essenciais. Meghan O’Connor, especialista jurídica da Quarles & Brady, desafia essa analogia, apontando a natureza subjetiva e imensurável das informações divulgadas. Isso levanta questões sobre como os desenvolvedores de TI em saúde comunicam essas informações e como os provedores as integram em suas análises de risco.
Avaliando o escopo da regra de transparência da IA
Niam Yaraghi, pesquisador sênior não residente na Brookings Institution, oferece uma perspectiva crítica. Embora reconheça o nobre objetivo da regra de garantir a equidade na IA, ele a considera um tanto reativa. Yaraghi defende políticas que promovam avanços rápidos na IA e abordem barreiras como os silos de dados no sistema de saúde.
Ao navegar no labirinto da transparência da IA, a regra representa um passo significativo para frente. No entanto, à medida que o cenário da saúde lida com a natureza em evolução da IA, permanecem perguntas: A transparência por si só pode garantir o uso responsável e equitativo da IA na saúde? Existem limitações inerentes à capacidade da regra de abordar os desafios dinâmicos impostos pela interseção da tecnologia e da saúde? À medida que as partes interessadas caminham com cautela por esse cenário em evolução, a busca pelo equilíbrio entre inovação e responsabilidade permanece primordial.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
