Может ли ИИ стать непредвзятым в здравоохранении? Исследователи борются за ответ

Каждый пациент, независимо от физических характеристик и идентичности, должен иметь доступ к качественному здравоохранению. Однако определенные люди или группы часто лишались справедливости в системе здравоохранения из-за проблем неравенства и неявных предубеждений в медицинском лечении и диагностике. 

Модели ИИ в здравоохранении предвзяты

Группа исследователей из Массачусетского технологического института (MIT) теперь обнаружила, что искусственный интеллект и машинное обучение имеют тенденцию еще больше усиливать неравенство и несправедливость в здравоохранении среди подгрупп, часто недостаточно представленных. Это может повлиять на то, как эти группы диагностируются и лечатся. 

Под руководством ассистент-профессора Департамента электротехники и инженерии (EECS) Массачусетского технологического института (MIT) Марзие Гхасеми исследователи опубликовали научную работу, анализирующую корни неравенств, которые могут возникать в ИИ, из-за чего модели, демонстрирующие хорошие результаты в целом, дают сбой при работе с недостаточно представленными подгруппами.

Анализ сосредоточился на «сдвигах субпопуляций», которые в отчете определяются как «различия в том, как работают модели машинного обучения для одной подгруппы по сравнению с другой». Основной целью было определение видов сдвигов субпопуляций, которые могут возникать с методами ИИ, и потенциальное информирование будущих достижений для более справедливых моделей. 

«Мы хотим, чтобы модели были справедливыми и одинаково хорошо работали для всех групп, но вместо этого мы постоянно наблюдаем наличие сдвигов среди разных групп, которые могут привести к ухудшению медицинской диагностики и лечения», — говорит аспирант MIT Ючжэ Ян.

Исследователи выявляют 4 сдвиги, которые усиливают предвзятость в моделях ИИ

Исследователи из MIT выявили четыре типа сдвигов — ложные корреляции, дисбаланс атрибутов, дисбаланс классов и обобщение атрибутов, — которые вызывают неравенство и предвзятость в методах ИИ.

«Предвзятость, на самом деле, может проистекать из того, что исследователи называют классом, или из атрибута, или из обоих», — говорится в отчете. 

Исследователи привели пример, где модели машинного обучения использовались для определения наличия пневмонии у человека на основе анализа рентгеновских снимков, с двумя атрибутами — люди, проходящие рентген, либо женского, либо мужского пола, и двумя классами — один состоящий из людей с легочным заболеванием, а другой — без инфекции.

«Если в этом конкретном наборе данных на каждые 100 мужчин, диагностированных с пневмонией, приходилась одна женщина с пневмонией, это могло бы привести к дисбалансу атрибутов, и модель, вероятно, лучше справлялась бы с правильной диагностикой пневмонии у мужчин, чем у женщин», — объяснила команда.

Могут ли модели ИИ работать непредвзятым образом?

Исследователи из MIT заявили, что им удалось снизить частоту ложных корреляций, дисбаланса классов и дисбаланса атрибутов, улучшив «классификатор» и «кодировщик». Однако другой сдвиг, «обобщение атрибутов», сохранялся. 

«Независимо от того, какие изменения мы вносили в кодировщик или классификатор, мы не наблюдали никаких улучшений в плане обобщения атрибутов», — говорит Ян, — «и мы пока не знаем, как решить эту проблему».

В настоящее время команда исследует открытые наборы данных, включающие десятки тысяч пациентов и рентгенограмм грудной клетки, чтобы определить, могут ли медицинские работники обеспечить справедливость в моделях машинного обучения при диагностике и лечении.

Однако они признали, что необходимо лучше понимать источники несправедливости и то, как они проникают в нашу текущую систему, чтобы достичь желаемого равенства.