Está em andamento uma nova regra de discriminação por IA no setor da saúde

O Escritório de Direitos Civis (OCR, na sigla em inglês) do Departamento de Saúde e Serviços Humanos (HHS, na sigla em inglês) publicou recentemente uma norma final sobre a aplicabilidade da seção 1557 da Lei de Acesso à Saúde (Affordable Care Act), que limita a discriminação com base em raça, cor, nacionalidade, sexo, idade ou deficiência em programas de saúde financiados com verbas federais.

Essa regra está alinhada com a decisão da Suprema Corte no caso Bostock v. Clayton County, de 2020, e a Seção 1557 é entendida como discriminação “com base no sexo”, que inclui tanto a orientação sexual quanto adentde gênero. A última regra também determinou que, mesmo quando o aprendizado de máquina é aplicado em uma tecnologia baseada em inteligência artificial, os padrões de uso dos provedores permanecem sob a Seção 1557. Portanto, eles são obrigados a examinar e abordar quaisquer riscos potenciais de discriminação.

Avaliando os riscos de viés da IA

De acordo com a norma de governança, uma “ferramenta de apoio à decisão clínica” é qualquer configuração independente ou combinada de qualquer tecnologia ou método que uma entidade abrangida utilize para auxiliar na tomada de decisões clínicas. Por exemplo, alguns fornecedores de ferramentas para aplicações de atendimento direto ao paciente incluem algoritmos preditivos que podem avaliar o risco e a gravidade de eventos de saúde futuros do paciente, bem como mecanismos de análise usados ​​para aprovar ou negar solicitações de reembolso médico com base na necessidade do tratamento. 

Civis (OCR) afirmou que, com a utilização dessas ferramentas e a priorização baseada em IA da tomada de decisões defidefinição acima engloba veículos autônomos e auxílios não automatizados, como fluxogramas. A tecnologia na saúde pode, portanto, ser injusta se pessoas com deficiência forem impedidas de receber atendimento igualitário e se os profissionais de saúde não levarem em consideração as características individuais do paciente.

Esforços razoáveis ​​para a prevenção de preconceitos

A capacidade da entidade abrangida de assumir a responsabilidade adicional pelo consumidor ou seus recursos financeiros. Independentemente de os produtos serem produzidos com a intenção de uso pretendido, conforme aprovado pelos desenvolvedores e órgãos reguladores, e independentemente do formato dos dados, os desenvolvedores devem se esforçar para conscientizar a entidade sobre o risco de discriminação.

Seja explícito sobre se o titular dos dados (em nome de quem a entidade coberta está atuando) tem seguido um processo ou se a entidade coberta (ou seja, uma organização que atua em nome do titular) já desenvolveu um para avaliar as ferramentas utilizadas.

A regra difere radicalmente da regra anterior, segundo a qual o financiamento do Medicare Parte B é classificado como assistência federal se concedido a prestadores de serviços e fornecedores. Reduzir ligeiramente o número de pessoas que recebem fundos da Parte B e isentá-las dos da Seção 1557 fará com que elas cumpram a Seção 1557 e outras regulamentações de direitos civis implementadas pelo Escritório de Direitos Civis (OCR).