Непоследовательность действий ИИ в чрезвычайных медицинских ситуациях вызывает опасения

Недавнее исследование Медицинского колледжа им. Элсона С. Флойда при Вашингтонском государственном университете предоставляет важную информацию о возможных препятствиях для использования искусственного интеллекта (ИИ) в экстренных медицинских ситуациях. В опубликованном в PLOS One исследовании авторы изучили возможности программы ChatGPT от OpenAI для оценки риска сердечно-сосудистых заболеваний у смоделированных пациентов в случае боли в груди.

Противоречивые выводы

Результаты указывают наmatic уровень изменчивости выводов ChatGPT при вводе одних и тех же данных о пациентах. По словам ведущего исследователя, доктора Томаса Хестона, ChatGPT работает непоследовательно. При отображении одних и тех же данных ChatGPT в первый раз покажет низкий риск, во второй — средний, а иногда даже высокий.

Этот пробел особенно серьезен в критических случаях, угрожающих жизни, поскольку в таких ситуациях объективная оценка состояния пациента имеет огромное значение для принятия врачом точных и адекватных мер. Боль в груди у пациентов может быть вызвана различными заболеваниями. Поэтому врачу необходимо быстро осмотреть пациента и своевременно оказать ему необходимую помощь.

Исследование также показало, что эффективность ChatGPT была ниже по сравнению с традиционными методами, используемыми врачами для оценки риска сердечно-сосудистых заболеваний у пациентов. Сегодня врачи используют метод двусторонней записи в контрольном списке, оценивая пациентов приблизительно в соответствии с протоколами TIMI и HEART, которые являются показателями степени тяжести сердечно-сосудистых заболеваний у пациентов.

Однако, когда в качестве входных данных использовались такие переменные, как те, что представлены в шкалах TIMI и HEART, наблюдалось большее расхождение во мнениях с оценками ChatGPT, при этом уровень согласия составил 45% и 48% для соответствующих шкал. Предположим, что такое разнообразие наблюдается в процессе принятия решений ИИ в случаях высокого риска в медицине. В этом случае возникает вопрос о надежности ИИ, поскольку именно в таких критических ситуациях необходимы последовательные и точные решения.

Рассмотрение ограничений и потенциала ИИ в здравоохранении

Доктор Хестон отметил возможности ИИ для улучшения системы здравоохранения и подчеркнул необходимость проведения тщательного исследования для исключения присущих ей defi. ИИ может быть необходимым инструментом, но мы движемся быстрее, чем понимаем. Поэтому нам следует проводить много исследований, особенно в часто встречающихся клинических ситуациях.

dent, результаты исследований подтвердили важность медицинских сестер в подобных ситуациях, хотя технологии искусственного интеллекта также продемонстрировали некоторые преимущества. Возьмем, к примеру, экстренную ситуацию, когда специалисты по цифровому здравоохранению смогут изучить полный медицинский отчет пациента, используя таким образом возможности системы для предоставления только необходимой информации с максимальной эффективностью. Кроме того, ИИ может участвовать как в составлении дифференциальных диагнозов, так и в совместном анализе сложных случаев с врачами. Это поможет врачам более эффективно продвигаться в диагностическом процессе.

Тем не менее, по словам доктора Хестона, некоторые проблемы всё ещё остаются.

«Он может быть очень полезен для анализа дифференциальной диагностики неизвестных вам заболеваний, и это, пожалуй, одно из его главных преимуществ. Вы можете попросить его назвать пять наиболее вероятных диагнозов и привести доказательства в пользу каждого из них, и он может очень помочь в решении проблемы, но он просто не может дать однозначный ответ»

В условиях постоянного развития ИИ крайне важно проводить тщательную оценку его производительности, особенно в ситуациях высокого риска, таких как здравоохранение, чтобы обеспечить безопасность пациентов и, следовательно, оптимизировать процесс принятия медицинских решений.