Исследователи пытаются найти ответ на вопрос, сможет ли ИИ стать беспристрастным в здравоохранении

Каждый пациент, независимо от его физических характеристик иdent, должен иметь доступ к качественной медицинской помощи. Однако некоторые люди или группы часто лишаются справедливости в системе здравоохранения из-за проблемы неравенства и скрытых предубеждений в медицинском лечении и диагностике. 

Модели искусственного интеллекта в здравоохранении предвзяты

Группа исследователей из Массачусетского технологического института (MIT) обнаружила, что искусственный интеллект и машинное обучение имеют тенденцию усугублять неравенство и диспропорции в здравоохранении среди групп населения, часто недостаточно представленных в системе здравоохранения. Это может повлиять на методы диагностики и лечения этих групп. 

Исследователи под руководством доцента кафедры электротехники и инженерии (EECS) Массачусетского технологического института (MIT) Марзие Гассеми опубликовали научную статью, анализирующую причины различий, которые могут возникать в искусственном интеллекте, из-за чего модели, в целом демонстрирующие хорошие результаты, дают сбои при работе с недостаточно представленными подгруппами.

Анализ был сосредоточен на «сдвигах в субпопуляциях», которые в отчете defiкак «различия в том, как модели машинного обучения работают для одной субгруппы по сравнению с другой». Основная цель заключалась в определении типов сдвигов в субпопуляциях, которые могут происходить при использовании методов искусственного интеллекта, и потенциальном влиянии на будущие разработки более справедливых моделей. 

«Мы хотим, чтобы модели были справедливыми и одинаково хорошо работали для всех групп, но вместо этого мы постоянно наблюдаем наличие изменений среди разных групп, которые могут привести к некачественной медицинской диагностике и лечению», — говоритdent Массачусетского технологического института Ючже Ян.

Исследователиdent4 фактора, которые приводят к предвзятости в моделях искусственного интеллекта

Исследователи из Массачусетского технологического институтаdentклассовый дисбаланс и обобщение атрибутов – которые приводят к неравенству и предвзятости в методах искусственного интеллекта. 

«Предвзятость может, по сути, возникать из-за того, что исследователи называют классом, или из-за атрибута, или из-за того и другого», — говорится в отчете. 

Исследователи привели пример использования моделей машинного обучения для определения наличия или отсутствия пневмонии у человека на основе анализа рентгеновских снимков, с учетом двух атрибутов – пол пациента (женский или мужской) и двух классов – один, включающий людей с этим заболеванием легких, и другой, не инфицированных.

«Если бы в этом конкретном наборе данных на каждого мужчину с пневмонией приходилось 100 случаев заболевания пневмонией, это могло бы привести к дисбалансу признаков, и модель, вероятно, лучше бы справлялась с правильным выявлением пневмонии у мужчин, чем у женщин», — пояснила команда.

Могут ли модели искусственного интеллекта работать беспристрастно?

Исследователи из Массачусетского технологического института заявили, что им удалось уменьшить количество ложных корреляций, дисбаланс классов и атрибутов за счет улучшения «классификатора» и «кодировщика». Однако другое изменение, «обобщение атрибутов», сохранилось. 

«Что бы мы ни делали с кодировщиком или классификатором, мы не видели никаких улучшений в плане обобщения атрибутов, — говорит Ян, — и мы пока не знаем, как решить эту проблему»

В настоящее время команда изучает общедоступные наборы данных, содержащие информацию о десятках тысяч пациентов и рентгеновские снимки грудной клетки, чтобы определить, могут ли медицинские работники добиться справедливости в медицинской диагностике и лечении с помощью моделей машинного обучения.

Однако они признали, что по-прежнему существует необходимость в лучшем понимании источников несправедливости и того, как они пронизывают нашу нынешнюю систему, чтобы достичь желаемой справедливости.