인공지능이 의료 분야에서 편견 없이 작동할 수 있을까? 연구자들은 해답을 찾기 위해 고심하고 있다

신체적 특징이나dent에 관계없이 모든 환자는 양질의 의료 서비스를 받을 권리가 있습니다. 그러나 의료 시스템의 불평등과 암묵적인 편견으로 인해 특정 개인이나 집단은 공정한 의료 서비스를 받지 못하는 경우가 빈번합니다. 

의료 분야의 AI 모델은 편향되어 있습니다

매사추세츠 공과대학(MIT)의 연구진은 인공지능과 기계 학습이 의료 서비스 접근성이 낮은 특정 집단, 특히 대표성이 부족한 집단 간의 의료 격차와 불평등을 더욱 심화시킬 수 있다는 사실을 발견했습니다. 이는 해당 집단의 진단 및 치료 방식에 부정적인 영향을 미칠 수 있습니다. 

MIT 전기과학 및 공학(EECS)의 마르지예 가세미 조교수가 이끄는 연구팀은 인공지능에서 발생할 수 있는 불평등전반적으로 우수한 성능을 보이는 모델이 소외된 하위 집단과 관련된 부분에서는 제대로 작동하지 못하는 이유를 밝히고 있습니다.

이번 분석은 보고서에서 "기계 학습 모델이 한 하위 집단과 다른 하위 집단에 대해 보이는 성능 차이"로 defi"하위 집단 변화"에 초점을 맞췄습니다. 주요 목표는 AI 기술을 통해 발생할 수 있는 하위 집단 변화의 유형을 파악하고, 이를 바탕으로 보다 공평한 모델을 개발하는 데 필요한 정보를 제공하는 것이었습니다. 

"우리는 모델이 공정하고 모든 집단에 똑같이 잘 작동하기를 바라지만, 현실은 그렇지 않고서는 집단 간에 차이가 지속적으로 나타나며, 이는 결국 부정확한 의료 진단과 치료로 이어질 수 있다는 것을 목격하고 있습니다."라고 MIT 박사 과정dent 인 유저 양은 말합니다.

연구진, AI 모델의 편향을 유발하는 4가지 변화dent

MIT 연구진은dent했습니다 인공지능 기술에서 불평등과 편향을 야기하는 네 가지 유형의 변화, 즉 허위 상관관계, 속성 불균형, 클래스 불균형, 속성 일반화를 

"편견은 실제로 연구자들이 '계층'이라고 부르는 것, 또는 '속성', 혹은 둘 다에서 비롯될 수 있습니다."라고 보고서는 밝히고 있다. 

연구자들은 기계 학습 모델을 사용하여 엑스레이 사진을 검사하여 사람이 폐렴에 걸렸는지 아닌지를 판별하는 사례를 제시했습니다. 여기에는 두 가지 속성이 있습니다. 엑스레이를 받는 사람은 여성 또는 남성이고, 두 가지 클래스가 있습니다. 하나는 폐 질환이 있는 사람이고, 다른 하나는 감염이 없는 사람입니다.

"만약 이 특정 데이터 세트에서 폐렴 진단을 받은 남성이 여성 1명당 100명이라면, 이는 속성 불균형을 초래할 수 있으며, 모델은 여성보다 남성의 폐렴을 더 정확하게 감지할 가능성이 높습니다."라고 연구팀은 설명했습니다.

인공지능 모델은 편견 없이 작동할 수 있을까요?

MIT 연구진은 "분류기"와 "인코더"를 개선함으로써 허위 상관관계, 클래스 불균형, 속성 불균형 발생 빈도를 줄일 수 있었다고 밝혔습니다. 그러나 또 다른 변화인 "속성 일반화"는 여전히 지속되었습니다. 

양 교수는 "인코더나 분류기에 어떤 조치를 취하더라도 속성 일반화 측면에서 개선점을 찾을 수 없었고, 아직 그 문제를 어떻게 해결해야 할지 알지 못한다"고 말했다

현재 연구팀은 수만 명의 환자와 흉부 X선 사진으로 구성된 공개 데이터 세트를 분석하여 의료 전문가들이 기계 학습 모델을 통해 공정한 진단 및 치료를 달성할 수 있는지 여부를 파악하고 있습니다.

그러나 그들은 원하는 공정성을 달성하기 위해서는 불공정의 근원과 그것이 현행 시스템에 어떻게 스며드는지에 대한 더 나은 이해가 여전히 필요하다는 점을 인정했습니다.