A IA Pode Tornar-se Imparcial na Saúde? Pesquisadores Lutam para Encontrar uma Resposta

Cada paciente, independentemente de suas características físicas e identidades, deve ter acesso a bons cuidados de saúde. No entanto, certas pessoas ou grupos muitas vezes foram privados da justiça no sistema de saúde devido às questões de inequidades e vieses implícitos no tratamento e diagnóstico médicos. 

Modelos de IA na Saúde São Viesados

Um grupo de pesquisadores do Massachusetts Institute of Technology (MIT) descobriu que a inteligência artificial e o aprendizado de máquina tendem a agravar as disparidades e inequidades em saúde entre subgrupos, frequentemente sub-representados. Isso pode afetar como esses grupos são diagnosticados e tratados. 

Liderados pela professora assistente Marzyeh Ghassemi, do Departamento de Ciência e Engenharia Elétrica (EECS) do MIT, os pesquisadores publicaram um artigo analisando as raízes das disparidades que podem surgir na IA, fazendo com que os modelos que funcionam bem em geral falhem quando se trata de subgrupos sub-representados.

A análise focou nas “mudanças de subpopulação”, definidas no relatório como as “diferenças na forma como os modelos de aprendizado de máquina performam para um subgrupo em comparação a outro”. O objetivo principal foi determinar os tipos de mudanças de subpopulação que podem ocorrer com técnicas de IA e potencialmente informar avanços futuros para modelos mais equitativos. 

“Queremos que os modelos sejam justos e funcionem igualmente bem para todos os grupos, mas, ao invés disso, observamos consistentemente a presença de mudanças entre diferentes grupos que podem levar a diagnósticos e tratamentos médicos inferiores”, diz Yuzhe Yang, estudante de doutorado do MIT.

Pesquisadores identificam 4 mudanças que alimentam vieses em modelos de IA

Os pesquisadores do MIT identificaram quatro tipos de deslocamentos – correlações espúrias, desequilíbrio de atributos, desequilíbrio de classes e generalização de atributos – que causam inequidades e vieses nas técnicas de IA.

“Os vieses podem, de fato, originar-se do que os pesquisadores chamam de classe, ou do atributo, ou de ambos”, lê-se no relatório. 

Os pesquisadores apresentaram um exemplo em que modelos de aprendizado de máquina foram usados para determinar se uma pessoa tem pneumonia ou não com base na análise de imagens de raio-X, com dois atributos – as pessoas submetidas ao raio-X são ou mulheres ou homens – e duas classes – uma composta por pessoas com a doença pulmonar e outra livre de infecção.

“Se, neste conjunto de dados específico, houvesse 100 homens diagnosticados com pneumonia para cada mulher diagnosticada com pneumonia, isso poderia levar a um desequilíbrio de atributos, e o modelo provavelmente teria um desempenho melhor na detecção correta de pneumonia em homens do que em mulheres”, explicou a equipe.

Os Modelos de IA Podem Funcionar de Maneira Imparcial?

Os pesquisadores do MIT afirmaram ter conseguido reduzir a ocorrência de correlações espúrias, desequilíbrio de classes e desequilíbrio de atributos ao melhorar o “classificador” e o “codificador”. No entanto, o outro desvio, a “generalização de atributos”, persistiu. 

“Não importa o que fizemos no codificador ou no classificador, não observamos nenhuma melhoria em termos de generalização de atributos”, diz Yang, “e ainda não sabemos como abordar isso.”

A equipe está atualmente explorando conjuntos de dados públicos com dezenas de milhares de pacientes e radiografias de tórax para determinar se profissionais de saúde podem alcançar equidade no diagnóstico e tratamento médico por meio de modelos de aprendizado de máquina.

No entanto, reconheceram que ainda há necessidade de uma compreensão mais profunda das fontes de injustiça e de como elas permeiam nosso sistema atual para chegar à equidade desejada.