ВОЗ представляет чат-бота с искусственным интеллектом SARAH, несмотря на недостатки

Всемирная организация здравоохранения (ВОЗ) разработала систему искусственного интеллекта, интегрированную с чат-ботом, под названием SARAH. Миссия SARAH — обеспечить доступ к информации о глобальном здравоохранении. Мы отмечаем инновационный подход SARAH. Тем не менее, ей все еще удается распространять некоторую важную ложную медицинскую информацию.

Технологические инновации и санитарное просвещение

В знак поддержки усилий ВОЗ в этом направлении, SETHARA — это аббревиатура от Smart AI Resource Assistant for Health (Умный ИИ-помощник по ресурсам в здравоохранении). Она представляет собой новейшие цифровые средства здравоохранения, используемые организацией. Разработанная для удовлетворения потребностей в медицинской помощи в любое время и в любом месте, SARAH может предоставлять информацию на восьми языках, включая информацию о психическом здоровье и выборе жизненного пути. 

Это одно из таких действий, являющихся частью стратегии ВОЗ по внедрению технологий в санитарно-просветительскую работу и сокращению глобального разрыва в охвате услугами здравоохранения. Однако ВОЗ признала, что у этого прототипа есть недостатки, несмотря на то, что он является историческим образцом. До сих пор он в основном адаптировался программистами в рамках мандата ВОЗ и предоставлял информацию о том, как найти профессиональную помощь по конкретным вопросам. Бот не может предоставлять такие услуги постоянно и не может сравниваться с такими инструментами, как WebMD.

Проблемы точности и безопасности ИИ

Внедрение SARAH не ограничивается простыми способами. Чат-бот на основе ИИ создан на базе модели ChatGPT 3.5 от OpenAI; у него возникли проблемы с предоставлением устаревшей информации, а также с некоторыми неверными ответами. Например, он некорректно упомянул статус одобрения нового препарата от болезни Альцгеймера, что отражает недостаток данных для обучения, поскольку система включает информацию только за период с сентября 2021 года.

Еще одна проблема, с которой часто сталкивается SARAH, — это представление ответов, которые могут выходить за рамки темы или цели; известная проблема в разработке ИИ — это упоминание галлюцинаций. В целом, эти неточности могут повысить опасность дезинформации населения. Поэтому Всемирная организация здравоохранения (ВОЗ) стремится получить мнения исследователей и правительственных учреждений для повышения устойчивости, особенно в чрезвычайных ситуациях в области здравоохранения.

Это также сопровождается опасениями по поводу использования ИИ медицинскими работниками. Компания SORAH применяет методы распознавания лиц для определения и анализа эмоций пользователей. Они обещают не показывать свои лица, обеспечивая защиту данных и конфиденциальность. Модель открытого исходного кода с неограниченным сроком действия также характеризуется повышенной уязвимостью к кибератакам на основу ИИ.

Перспективы развития и этические соображения

ВОЗ продолжает поддерживать SARAH, и вскоре ожидаются обновления, такие как изменение внешнего вида аватара и интерактивные возможности. Действительно, ВОЗ объявила об этических принципах для своих заинтересованных сторон и выдвинула концепции прозрачности данных и безопасности пользователей. SARAH, технология, основанная на искусственном интеллекте, выведена на новый уровень, поскольку ВОЗ с осторожностью относится к интеграции ИИ в распространение информации о здоровье. Однако у технологии есть ряд недостатков, на которые организация оперативно указывает. 

Организация четко заявляет, что SARAH не является преобразователем медицинских услуг, что не было ее целью, а представляет собой вспомогательный инструмент для распространения информации о здоровье и просвещения населения во всем мире. Несмотря на некоторые препятствия, усилия ВОЗ демонстрируют значительный прогресс в использовании искусственного интеллекта в санитарном просвещении, поскольку он будет ориентирован на более широкую аудиторию и поможет сделать информацию о здоровье более доступной во всем мире.