Расшифровка ИИ: выявление влияния сложности запросов на точность медицинской информации

Новое новаторское исследование, проведенное австралийской организацией CSIRO и исследователями из Университета Квинсленда (UQ), демонстрирует важнейший вывод о надежности искусственного интеллекта, в частности, больших языковых моделей (LLM), таких как ChatGPT, для генерации медицинской информации. Это, безусловно, отражает сложность проблем, которые могут возникнуть при использовании технологий по мере их все большей интеграции в распространение медицинской информации.

Упростите для большей точности 

В ходе эксперимента, в котором ответы ChatGPT были подвергнуты 100 вопросам о здоровье из tracTREC по распространению дезинформации в здравоохранении, было обнаружено существенное различие в точности ответов в зависимости от формата заданных вопросов. Когда ChatGPT задавали простые вопросы без дополнительных доказательств, он смог дать точный ответ в 80% случаев, опираясь на имеющиеся медицинские знания. Однако, когда вопросы были сформулированы таким образом, чтобы либо подтвердить, либо опровергнуть запрос, точность ответов снижалась до 63%.

В ходе исследования также было отмечено падение точности до поразительных 28%, когда ChatGPT разрешили выражать неуверенность в своих ответах. Таким образом, предполагается, что подобные предвзятые данные, независимо от их истинности, вносят «шум» в систему и могутtracее способность давать обоснованные ответы. Такое поведение языковых моделей теперь будет представлять реальную угрозу для обработки сложной информации в запросах, связанных со здоровьем, и дезинформации в искусственном интеллекте.

Проблема интеграции ИИ с медицинской информацией

Эта возможность использования LLM-технологий и поисковых систем, являющихся частью основных поисковых систем, применяется в сочетании с процессами генерации расширенной информации (Retrieval Augmented Generation, RAG) — одним из важных шагов в обеспечении доступа к медицинской информации в интернете. Однако исследования доктора Бевана Купмана, ведущего научного сотрудника CSIRO и доцента Университета Квинсленда, и Гвидо Зуккона из Квинслендского центра цифрового здравоохранения, опровергли это представление и показали, что существует лишь частичное, если вообще какое-либо, понимание того, как LLM-технологии должны взаимодействовать с поисковым компонентом, что приводит к неполному поиску данных. 

Таким образом, это имеет большое значение при более продвинутом использовании, в то время как для запросов, связанных со здоровьем, можно использовать веб-источники. Исследование указывает на острую необходимость в дополнительных исследованиях, которые, по крайней мере, позволили бы восполнить пробел в понимании того, как линейные обучающие платформы могут обрабатывать и извлекать информацию о здоровье, чтобы обеспечить надежность и точность ответов общественности.

Дальнейший путь

Таким образом, очевидный вывод заключается в том, что срочно необходимы дополнительные исследования возможностей и ограничений LLM в контексте медицинской информации. Исследователи предложили повысить осведомленность общественности о вероятных рисках получения медицинских консультаций через платформы искусственного интеллекта и разработать механизмы, которые повысят качество и точность получаемой информации.

По мере развития технологического ландшафта меняются и способы доступа к медицинской информации и ее интерпретации. Это убедительное напоминание о критической важности простоты и ясности в вопросах, задаваемых ИИ, и о потенциальной возможности дезинформации при представлении сложных доказательств. Поэтому цель состоит в том, чтобы использовать ИИ идеально; например, для обеспечения оптимального доступа к достоверной медицинской информации, что требует более глубокого понимания сложных взаимосвязей между возможностями обработки данных ИИ и запросами, связанными со здоровьем.

Исследование CSIRO и UQ лишь еще раз подчеркивает, что сочетание ИИ с поиском медицинской информации — чрезвычайно сложная задача, и вероятность ошибок очень высока. Учитывая растущую роль ИИ в нашей повседневной жизни, особенно в сфере медицинской информации, настало время начать понимать ограничения машин и сделать их более надежными. 

Это, безусловно, расширит доступность медицинской информации для каждого человека, если не защитит его от мошенничества. Тем не менее, несмотря на продолжающиеся исследования и разработки, потенциал ИИ для революционизации области медицинской информации остается огромным, при условии, что его применение будет осуществляться с осторожностью, осведомленностью и стремлением к точности.