Предупреждающее исследование выявило ограничения ChatGPT в предоставлении точной информации о лекарственных препаратах

Недавнее исследование вызвало опасения по поводу надежности бесплатной версии ChatGPT, популярного чат-бота от OpenAI, в предоставлении точной информации о лекарственных препаратах. Исследование, проведенное фармацевтами из Колледжа фармации Университета Лонг-Айленда, показало, что ответы ChatGPT на вопросы о лекарствах часто неточны или неполны. Результаты подчеркивают необходимость осторожности со стороны пациентов и медицинских работников, полагающихся на ChatGPT для получения фармацевтической информации.

В ходе исследования чату ChatGPT было задано 39 вопросов, касающихся лекарственных препаратов, из которых только на 10 были даны удовлетворительные ответы. На остальные 29 вопросов ответы были либо неточными, либо неполными, либо и тем, и другим одновременно. Эта несогласованность в ответах подчеркивает существенный пробел в способности чат-бота предоставлять достоверную информацию о лекарственных препаратах.

Недостатки в решении вопросов, связанных с фармацевтической промышленностью

Исследовательская группа под руководством Сары Гроссман оценила эффективность ChatGPT, сравнив ее ответы с ответами фармацевтов, ответивших на тот же набор вопросов. Вопросы представляли собой реальные запросы, полученные службой информации о лекарственных препаратах Колледжа фармации Университета Лонг-Айленда в период с января 2022 года по апрель 2023 года. Из первоначальных 45 вопросов шесть были исключены из-за отсутствия ответов, основанных на литературных данных.

ChatGPT не смог дать прямого ответа на 11 вопросов, предоставил неточные ответы на 10 и дал неверные или неполные ответы еще на 12. Исследователи также отметили, что ChatGPT, когда его об этом просили, предоставил ссылки только в восьми ответах, причем во всех случаях цитировались несуществующие источники. Это вызывает опасения по поводу процессов проверки и подтверждения информации в чат-боте.

Особенно тревожным примером стало неверное утверждение ChatGPT об отсутствии лекарственного взаимодействия между противовирусным препаратом Паксловид и антигипертензивным препаратом Верапамил. В действительности, сочетание этих препаратов может привести к чрезмерному снижению артериального давления, что представляет серьезную угрозу для здоровья. Эта ошибка особенно тревожна, учитывая, что многие пользователи могут не знать об ограничениях ChatGPT в отношении данных, что потенциально может привести к вредным последствиям.

Последствия применения ИИ в здравоохранении

Результаты исследования имеют решающее значение в контексте популярности и широкого распространения ChatGPT. Запущенное в 2022 году, ChatGPT быстро стало одним из самых быстрорастущих потребительских интернет-приложений, собрав около 1,7 миллиарда посещений по всему миру только в октябре. Однако его бесплатная версия ограничена данными, доступными до сентября 2021 года, что потенциально может привести к тому, что она не будет учитывать последние медицинские разработки и инновации.

Хотя платная версия ChatGPT теперь включает в себя возможности просмотра веб-страниц в режиме реального времени, исследование в основном было сосредоточено на бесплатной версии, чтобы отразить опыт использования сервиса широкой публикой. Исследователи подчеркивают важность проверки ответов в ChatGPT с помощью доверенных медицинских специалистов или надежных медицинских источников.

Это исследование служит важным напоминанием об ограничениях ИИ в таких чувствительных областях, как здравоохранение. Хотя технологии ИИ, такие как ChatGPT, предлагают значительные преимущества с точки зрения доступности и удобства, их нынешнее состояние требует тщательного изучения, особенно когда речь идет о вопросах здоровья и благополучия. Пользователям рекомендуется с осторожностью относиться к информации из таких источников и всегда консультироваться с квалифицированными медицинскими специалистами по вопросам здравоохранения.

Исследование, проведенное Фармацевтическим колледжем Университета Лонг-Айленда, служит важным сигналом о наличии ограничений в использовании ИИ в здравоохранении, особенно в предоставлении точной информации о лекарственных препаратах. Поскольку ИИ продолжает интегрироваться в различные аспекты нашей жизни, крайне важно помнить о его ограничениях и подходить к его использованию, особенно в таких важных областях, как здравоохранение, с осознанной осторожностью.