의료 분야에서 AI는 편향 없이 공정해질 수 있을까? 연구자들은 답을 찾기 위해 고군분투하다

모든 환자는 신체적 특징이나 신분에 관계없이 양질의 의료 서비스에 접근할 권리가 있다. 그러나 의료 처치 및 진단 과정의 불평등과 암묵적 편향 문제로 인해 특정 개인이나 집단은 종종 의료 시스템에서 공정성을 박탈당해 왔다. 

의료 분야의 AI 모델은 편향되어 있다

마사추세츠공과대학교(MIT) 연구진들은 이제 인공지능(AI)과 머신러닝이 종종 소외된 하위 집단 간 의료 격차와 불평등을 더욱 부추기는 경향이 있음을 발견했다. 이는 이러한 집단이 진단받고 치료받는 방식에 영향을 미칠 수 있다. 

마사추세츠공과대학교(MIT) 전기공학 및 컴퓨터공학부(EECS)의 조교수인 마르지예 가세미(Marzyeh Ghassemi)가 이끄는 연구진은 인공지능(AI)에서 발생할 수 있는 불평등의 근원을 분석한 연구 논문을 발표했으며, 이는 전반적으로 우수한 성능을 보이는 모델이 소외된 하위 집단 관련 상황에서는 제대로 작동하지 못하는 원인을 규명하는 것이다.

분석은 '하위 집단 변화(subpopulation shifts)'에 초점을 맞추었는데, 보고서는 이를 '하나의 하위 집단과 다른 하위 집단 간 머신러닝 모델의 성능 차이'로 정의했다. 주요 목표는 AI 기술에서 발생할 수 있는 하위 집단 변화의 유형을 규명하고, 보다 공정한 모델을 위한 향후 발전 방향에 잠재적으로 기여하는 것이었다. 

“우리는 모델이 공정하고 모든 그룹에 대해 동일하게 잘 작동하기를 원하지만, 대신 우리는 서로 다른 그룹 간의 편향이 존재하여 열악한 의료 진단과 치료로 이어지는 것을 일관되게 관찰합니다.”라고 MIT 박사 과정 학생인 유저 양은 말했다.

연구자들은 AI 모델에서 편향을 유발하는 4편차⟦/N1⟧를 식별

MIT 연구진은 허위 상관관계, 속성 불균형, 클래스 불균형, 속성 일반화라는 네 가지 유형의 변화를 식별했으며, 이러한 변화들이 AI 기술에서 불평등과 편향을 초래한다.

“편향은 실제로 연구자들이 클래스(class) 또는 속성(attribute)에서 비롯될 수 있으며, 둘 다에서 비롯될 수도 있다.”라고 보고서는 전했다. 

연구자들은 X-ray 이미지를 검토하여 폐렴 유무를 판단하는 데 머신러닝 모델이 사용된 사례를 제시했다. 이때 두 가지 속성(엑스레이를 찍는 사람이 여성이거나 남성임)과 두 가지 클래스(폐 질환이 있는 사람들로 구성된 클래스와 감염이 없는 사람들로 구성된 클래스)가 고려되었다.

“만약 이 특정 데이터셋에서 폐렴으로 진단된 여성 1명당 폐렴으로 진단된 남성이 100명이라면, 이는 속성 불균형을 초래할 수 있으며, 모델은 여성보다 남성에게서 폐렴을 더 정확하게 감지하는 데 더 잘 작동할 가능성이 있습니다.”라고 연구진은 설명했다.

AI 모델은 편향 없이 작동할 수 있는가?

MIT 연구자들은 ‘분류기(classifier)’와 ‘인코더(encoder)’를 개선함으로써 위상 상관관계, 클래스 불균형, 속성 불균형의 발생을 줄일 수 있었지만, 다른 편향인 ‘속성 일반화(attribute generalization)’는 지속되었다. 

“우리가 인코더나 분류기에 어떤 조치를 취하든 속성 일반화 측면에서 개선된 것을 보지 못했습니다.”라고 양은 말하며, “우리는 아직 이를 해결하는 방법을 모릅니다.”라고 덧붙였다.

연구진은 현재 수만 명의 환자 데이터와chest X-ray를 포함한 공개 데이터셋을 조사하여 의료 전문가들이 머신러닝 모델에서 의료 진단과 치료의 공정성을 달성할 수 있는지 여부를 파악하고 있다.

그러나 그들은 여전히 불공정의 근원과 그것이 현재 시스템에 어떻게 스며드는지에 대한 더 나은 이해가 필요하며, 이를 통해 원하는 형평성에 도달해야 함을 인정했다.