Развитие генеративного искусственного интеллекта в здравоохранении сталкивается с критикой и скептицизмом

Искусственный интеллект как быстро развивающаяся область применения в секторе здравоохранения вызывает как положительные, так и отрицательные отзывы. Государственное партнерство и значительные финансовые вложения учреждений вселяют большие надежды в эту технологию; однако специалисты и пациенты по-прежнему сомневаются, достаточно ли зрелой является эта технология или она может представлять опасность для здоровья пациентов.

Проблемы в принятии искусственного интеллекта в здравоохранении со стороны общественности

Будучи мощным инструментом перемен, генеративный ИИ начинает внедряться многими IT-гигантами и компаниями в приложения, связанные со здравоохранением. Google и Highmark Health — две компании, разрабатывающие уникальные инструменты для персонализации процесса приема пациентов.

Amazon AWS занимается представлением методов, использующих генеративный искусственный интеллект, и анализом медицинских баз данных. Аналогично, Microsoft Azure активно участвует в создании систем, обеспечивающих связь между пациентами и поставщиками медицинских товаров. Такие компании, как Ambience Healthcare и Nabla, активно развивают ИИ, значительно расширяя его роль в клинической практике.

Отчет Deloitte — лишь одно из исследований, показывающих, что, несмотря на недавние прорывы и технологические достижения, только 53% американцев готовы рассматривать возможность использования генеративного ИИ для улучшения медицинских услуг. 

Тот факт, что оставшиеся 47% американцев по-прежнему неdent в генеративном искусственном интеллекте как инструменте для снижения затрат и повышения доступности, указывает на существенные пробелы на рынке.

Технические трудности и этические вопросы

Надежность генеративного ИИ в здравоохранении становится все более актуальной темой, поскольку исследования показывают его непредсказуемость и недостатки. Исследование, опубликованное в журнале JAMA Pediatrics, продемонстрировало высокий уровень ошибок в диагностике детских заболеваний врачами «красной команды» в рамках проекта ChatGPT компании OpenAI, а исследования в медицинском центре Beth Israel Deaconess Medical Center показали аналогичные результаты с использованием GPT. 

В административной сфере здравоохранения тест MedAlign выявил defiмодели в повседневной работе. Модель показала 35% ошибок.

Эти проблемы возникают в последние месяцы, когда существует опасение, что может возникнуть возможность нарушения этих прав. Исследования, проведенные в области здравоохранения в Стэнфордской медицинской школе, показали, что развивающиеся технологии искусственного интеллекта могут укрепить общественные стереотипы, которые могут значительно усугубить неравенство в сфере здравоохранения. 

Конфиденциальность данных, риски безопасности и меняющееся законодательство, связанное с применением ИИ в здравоохранении, означают, что его использование представляет собой многоуровневую сложность.

Эксперты, такие как Эндрю Борковски из сети медицинских учреждений VA Sunshine Healthcare Network и Ян Эггер из Университета Дуйсбург-Эссен, признают необходимость создания надежных механизмов проверки и регулирования для новых технологий генеративного искусственного интеллекта. 

 Баланс между инновациями в области ИИ и надзором в здравоохранении 

Они поддерживают использование ИИ в качестве вспомогательной меры, а не как самостоятельного решения, поэтому за каждым применением внимательно следят опытные медицинские специалисты.

Вслед за этим… организации Всемирной организации здравоохранения пытаются усовершенствовать руководящие принципы, согласно которым исследования и проверка применения ИИ в здравоохранении должны быть строгими и включать достаточное количество людей для обеспечения определенного уровня контроля. 

Данная рекомендация направлена ​​на контроль процесса внедрения технологий искусственного интеллекта с целью обеспечения их безопасности и выгоды для потребителей. Рекомендуемыми мерами являются прозрачность,dent аудит и разнообразие заинтересованных сторон.

Сектор здравоохранения столкнулся с проблемой, находящейся на перепутье, где искусственный интеллект играет все более важную роль. Хотя признано, что ИИ обладает потенциалом изменить способы оказания медицинской помощи, существуют некоторые технические, этические и нормативные проблемы, препятствующие его внедрению в медицине.