Как ИИ в здравоохранении может вводить врачей в заблуждение с помощью предвзятых данных

В сложном ландшафте здравоохранения роль искусственного интеллекта (ИИ) была одновременно и благом, и потенциальным злом. Хотя ИИ обещает помочь врачам принимать более обоснованные решения, недавнее исследование, опубликованное в Журнале Американской медицинской ассоциации (JAMA), обнажает тревожную реальность. 

Исследование углубляется в последствия использования ИИ в здравоохранении, конкретно освещая опасности, исходящие от предвзятой информации, предоставляемой врачам. Несмотря на строгие усилия регулирующих органов, таких как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), по обеспечению надежности и безопасности инструментов ИИ, исследование предполагает, что даже с пояснениями врачи могут быть введены в заблуждение, если ИИ обучается на ошибочных и предвзятых данных.

Изучение влияния ИИ на диагностику в здравоохранении

Исследование, проведенное Сарой Джаббур, аспиранткой по компьютерным наукам в Мичиганском университете, сосредоточилось на моделях ИИ, предназначенных для помощи в диагностике пациентов с острой дыхательной недостаточностью — критическим состоянием, при котором пациенты борются с затрудненным дыханием. Сотрудничая с медицинскими работниками, включая врачей, медицинских сестер-практиков и ассистентов врачей, команда исследовала, как принятие решений ИИ влияет на точность диагностики. 

Удивительно, но когда медицинские работники полагались исключительно на решение ИИ, их точность увеличилась примерно на 3%. Однако введение объяснения, представленного в виде карты, показывающей, на какие части рентгеновского снимка грудной клетки обращает внимание ИИ, дополнительно улучшило точность на 4,4%.

Исследование сделало важный поворот, намеренно внедрив предвзятость в процесс принятия решений ИИ. Например, ИИ может неточно предположить, что пациенты старше 80 лет с большей вероятностью имеют пневмонию. 

Дженна Виенс, профессор, участвовавшая в исследовании, выделила присущие ИИ предвзятости при обучении на некачественных данных, приведя пример, где гендерно-обусловленные ошибки диагностики могли привести к искаженным результатам. К сожалению, когда врачам были представлены объяснения от предвзятого ИИ, их точность упала примерно на 11,3%, даже когда нерелевантное внимание ИИ было очевидно.

Задача раскрытия предвзятости ИИ

Сара Джаббур признает, что, хотя объяснения ИИ предлагают потенциальный путь для улучшения, исследование подчеркивает трудности. Снижение производительности, согласующееся с другими исследованиями, сигнализирует о том, что даже с пояснениями модели ИИ могут все еще вводить медицинских работников в заблуждение. 

Джаббур подчеркивает необходимость совместных усилий в разных областях для разработки лучших методов объяснения решений ИИ врачам в понятной форме. Исследование служит призывом к дальнейшим исследованиям, побуждая изучать способы безопасного использования преимуществ ИИ в здравоохранении. Оно также подчеркивает необходимость прочного медицинского образования, чтобы оснастить профессионалов знаниями для навигации в потенциальных предвзятостях ИИ.

По мере интеграции ИИ в здравоохранение исследование ставит важный вопрос: как мы можем обеспечить безопасное и эффективное использование ИИ, минимизируя риски предвзятой информации? Выводы подчеркивают срочность решения этих проблем, стимулируя инновации, которые закроют разрыв между достижениями ИИ и пониманием их врачами.

Могут ли совместные усилия экспертов из различных областей проложить путь к будущему, где ИИ в здравоохранении повышает точность, не компрометируя надежность и безопасность? Исследование служит не только предостерегающей историей, но и катализатором для продолжения изучения нюансов отношений между ИИ и здравоохранением, побуждая заинтересованные стороны ориентироваться в меняющемся ландшафте с острым осознанием потенциальных ловушек.