Всемирная организация здравоохранения (ВОЗ) разработала искусственный интеллект, интегрированный в чат-бот по имени SARAH. Миссия SARAH — обеспечить доступ к информации о глобальном здравоохранении. Отметим инновационный подход SARAH. Тем не менее, ему все же удается распространять важную ложную медицинскую информацию.
Технологические инновации и медицинское образование
ОТРАЖАЯ усилия ВОЗ в этом направлении, SETHARA — это аббревиатура от Smart AI Resource Assistant для здравоохранения. Она представляет новейшие цифровые средства здравоохранения, используемые в учреждении. Разработанная для удовлетворения потребностей в уходе в любое время и в любом месте, SARAH может предоставлять информацию на восьми языках, включая вопросы психического здоровья и жизненного выбора.
Это одно из таких действий, которые составляют часть стратегии ВОЗ по внедрению технологий в образование в области общественного здравоохранения и устранению глобального разрыва в охвате услугами здравоохранения. Однако ВОЗ признала, что у эмбриона есть недостатки, несмотря на то, что он является прототипом в истории. До сих пор программисты обычно адаптировали его так, чтобы он оставался в рамках мандата ВОЗ, и предлагает информацию о том, как найти профессиональную помощь по конкретным вопросам. Бот не может предоставлять такую услугу постоянно, и его нельзя сравнивать с такими инструментами, как WebMD.
Проблемы с точностью и безопасностью ИИ
САРА не была пройдена только легкими путями от развертывания. Чат-бот AI основан на модели OpenAI ChatGPT 3.5; у него были проблемы с предоставлением устаревшей информации, а также с некоторыми неправильными ответами. Примером этого является неправильное упоминание о статусе одобрения нового лекарства от болезни Альцгеймера, что является отражением отсутствия у компании постоянных обученных данных, которые включали данные только еще в сентябре 2021 года.
Другая вещь, с которой часто сталкивается САРА, — это предоставление ответов, которые могут выходить за рамки темы или цели. Известную проблему в разработке ИИ называют галлюцинациями. Подводя итог, эти неточности могут повысить опасность общественной дезинформации. Поэтому Всемирная организация здравоохранения (ВОЗ) стремится узнать мнение исследователей и правительственных учреждений о повышении устойчивости, особенно в чрезвычайных ситуациях в области здравоохранения.
Это также сопровождается опасениями по поводу использования ИИ медицинскими работниками. SORAH применяет методы распознавания лиц для обнаружения и определения эмоций пользователей. Они обещают не показывать свои лица, обеспечивая защиту данных и конфиденциальность. Бессрочная модель с открытым исходным кодом также отличается повышенной подверженностью кибератакам на основе искусственного интеллекта.
Будущие направления и этические соображения
ВОЗ по-прежнему поддерживает SARAH, и вскоре должны появиться обновления, такие как изменение внешнего вида аватара и интерактивные возможности. Действительно, ВОЗ объявила этические принципы для своих заинтересованных сторон и выдвинула понятия прозрачности данных и безопасности пользователей. SARAH, технология, основанная на искусственном интеллекте, выведена на новый уровень разработки, поскольку ВОЗ с осторожностью относится к интеграции ИИ в распространение информации о здоровье. Однако у этой технологии есть несколько недостатков, на которые сразу же указывает организация.
Организация ясно дает понять, что SARAH не является преобразователем медицинских услуг (что не является целью), а является вспомогательным инструментом для распространения осведомленности и образования в области общественного здравоохранения во всем мире. Несмотря на некоторые препятствия, усилия ВОЗ демонстрируют значительный прогресс в использовании искусственного интеллекта в медицинском образовании, поскольку он будет направлен на более широкий круг аудитории и поможет медицинской информации стать более доступной во всем мире.
Эта статья первоначально появилась в Fortune
