Рекомендации ИИ-чатбота по лечению рака оказываются неточными, показывает исследование

В недавнем исследовании, опубликованном в JAMA Oncology, была оценена точность и надежность ИИ-чатботов, работающих на больших языковых моделях (LLM), в контексте рекомендаций по лечению рака. По мере того как технологии ИИ становятся более распространенными в здравоохранении, возникают опасения по поводу их потенциала предоставлять неверную информацию, что может привести к вредным последствиям. Исследование фокусируется на производительности чатбота LLM в предоставлении советов по лечению рака предстательной железы, легких и молочной железы, проливая свет на проблемы и ограничения, связанные с медицинскими рекомендациями на основе ИИ.

Искусственный интеллект продемонстрировал значительный потенциал в различных приложениях, таких как генерация диагностических рекомендаций и предоставление критической помощи медицинским работникам. Однако растущее осознание исследователями случаев, когда ИИ-чатботы распространяют информацию, которая может быть не полностью надежной, становится все более актуальным. Даже имея доступ к обширным, надежным и высококачественным наборам данных, системы ИИ могут проявлять предвзятость и ограничения, которые непреднамеренно способствуют распространению дезинформации.

Это исследование призвано тщательно ответить на эти растущие опасения. Оно стремится провести всесторонний анализ врожденной способности чат-бота на базе большой языковой модели (LLM) предоставлять однозначно точные рекомендации по лечению рака. Глубоко погружаясь в тонкости этого исследования, оно направлено не только на выявление потенциальных ловушек, но и на определение путей повышения синергии между передовыми технологиями искусственного интеллекта и незаменимым опытом медицинских специалистов.

Оценка производительности чат-бота на базе ИИ

В исследовании была применена комплексная методология для тщательной оценки компетенций чат-бота на базе ИИ. Благодаря тщательной организации были разработаны четыре различных шаблона промптов в режиме zero-shot, что позволило создать обширную коллекцию из 104 промптов, тесно связанных с описаниями диагнозов рака. Эти тщательно подобранные промпты были введены в LLM через интерфейс ChatGPT. Последующие ответы чат-бота подверглись строгому анализу с участием панели онкологов, имеющих сертификат совета директоров. Их оценка основывалась на соответствии рекомендаций руководствам Национальной комплексной онкологической сети (NCCN) 2021 года. Споры часто возникали из-за неясного или двусмысленного характера ответов чат-бота, что усугублялось различными интерпретациями этих руководств.

По завершении оценка выявила результат, отражающий двойственность ситуации. Рекомендации чат-бота, подобно симфонии, сочетали в себе как точные, так и ошибочные предложения по лечению. Примечательно, что даже эти медицинские виртуозы с трудом выявляли недостатки в ответах ИИ. Это обнажает сложную сеть проблем, связанных с оценкой ИИ, и его склонность к распространению дезинформации. Примечательно, что около 33,33% предложений чат-бота по лечению отклонялись от компаса руководств NCCN, что указывает на существенный объем ошибок, присущих его советам.

Обучение пациентов и регулирующие меры

По мере того как ИИ продолжает проникать в сферу здравоохранения, крайне важно, чтобы медицинские работники обучали своих пациентов относительно ограничений и потенциальной дезинформации, связанных с технологиями на базе ИИ. В исследовании подчеркивается необходимость осторожности при опоре исключительно на чат-боты ИИ для получения медицинских рекомендаций. Эти выводы дополнительно подчеркивают важность разработки комплексных регулирующих мер для обеспечения ответственного и безопасного использования ИИ в условиях здравоохранения.

Выводы исследования проливают свет на проблемы и ограничения ИИ-чатботов, работающих на больших языковых моделях, в предоставлении точных рекомендаций по лечению рака. Хотя ИИ имеет потенциал помогать медицинским работникам и улучшать уход за пациентами, его уязвимость перед неточностями и предвзятостью подчеркивает важность использования ИИ в качестве дополнительного инструмента, а не окончательного источника медицинских рекомендаций. Исследование призывает к более осторожному и информированному подходу к внедрению ИИ в здравоохранение и подчеркивает необходимость ongoing исследований и регуляторных мер для обеспечения безопасности и благополучия пациентов.