- Группа по искусственному интеллекту Общества ядерной медицины и медицинской визуализации, в состав которой входит биоэтик Университетского медицинского центра Рочестера доктор Джонатан Херингтон, опубликовала рекомендации по этичному созданию и использованию медицинских устройств на базе ИИ.
- Подчеркивая необходимость участия человека, группа призывает к прозрачности, обеспечению равного доступа и осторожному применению прогнозов ИИ при принятии решений о лечении пациентов.
- Разработчикам рекомендуется бороться с неравенством в сфере здравоохранения, обеспечивая калибровку моделей ИИ для всех расовых и гендерных групп в разнообразных условиях оказания медицинской помощи.
В новаторском шаге Группа по ИИ Общества ядерной медицины и медицинской визуализации, включая взгляды доктора Джонатана Херингтона, представила набор рекомендаций, направленных на руководство этичным развитием и использованием ИИ в медицине. По мере того как искусственный интеллект выходит на первый план в здравоохранении, обещая улучшение диагностики и лечения, группа подчеркивает критическую роль сохранения человека в контуре (human in the loop) для предотвращения потенциального вреда и неравенства.
Необходимость этики ИИ в медицинских инновациях
По мере того как ИИ в медицине занимает все более заметное место, целевая группа подчеркивает важность прозрачности для обеспечения этичной разработки и использования. Доктор Херингтон обращает внимание на необходимость того, чтобы медицинские работники понимали нюансы систем ИИ, осознавая их предполагаемое применение, производительность и ограничения. Это требует проактивных усилий со стороны разработчиков ИИ по предоставлению точной информации об их медицинских устройствах. Целевая группа рекомендует внедрять в системы ИИ оповещения, информирующие пользователей об уровне неопределенности прогнозов, аналогично тепловым картам на снимках при раке.
Ключевой момент заключается в том, что разработчики должны тщательно определять данные, используемые для обучения моделей ИИ, и оценивать их производительность через клинически значимые критерии. Для минимизации неопределенности предлагаются «тихие испытания», при которых прогнозы системы не доступны медицинским работникам в режиме реального времени при принятии решений. Этот подход направлен на достижение баланса между потенциальной пользой ИИ и необходимостью избежать усугубления неравенства в сфере здравоохранения.
Разработчикам рекомендуется обеспечить, чтобы их модели ИИ не были эксклюзивными для больниц с высоким уровнем ресурсов, а были разработаны так, чтобы быть эффективными в различных условиях. Доктор Херингтон выражает обеспокоенность по поводу развертывания сложных систем, которые могут благоприятствовать пациентам с высоким уровнем обеспеченности, оставляя тех, кто находится в больницах с недостаточным финансированием или в сельской местности, без доступа или, что еще хуже, с системами, вредными для их лечения.
Решение проблемы неравенства данных для обеспечения справедливых результатов
По мере того как целевая группа углубляется в нюансы разработки ИИ, на первый план выходит проблема недостаточной представленности наборов данных. Текущие медицинские устройства на базе ИИ обучаются на наборах данных, где пациенты африканского и латиноамериканского происхождения представлены недостаточно, что приводит к потенциальным неточностям прогнозов для этих групп. Доктор Херингтон подчеркивает необходимость решительно бороться с этой проблемой, калибруя модели ИИ для всех расовых и гендерных групп.
Целевая группа решительно выступает за тщательный выбор наборов данных разработчиками, подчеркивая первостепенную важность выбора наборов данных, которые точно отражают многогранное разнообразие, присущее популяциям, которые станут бенефициарами рассматриваемых медицинских устройств. Последствия пренебрежения этим ключевым указанием не являются лишь теоретическими; они включают в себя опасный потенциал поддержания и усугубления существующего неравенства в сфере здравоохранения.
Доктор Херингтон, выдающийся специалист в своей области, с непреклонным акцентом подчеркивает насущную срочность внедрения этих рекомендаций. Необходимо выйти за пределы ядерной медицины и медицинской визуализации, поскольку доктор Херингтон остро осознает динамичную и стремительную эволюцию систем искусственного интеллекта в различных медицинских областях. Прогнозирующий характер этих рекомендаций предвосхищает и учитывает быстрый темп, с которым технологии ИИ развиваются в сложной ткани различных медицинских дисциплин.
По мере быстрого развития ландшафта ИИ доктор Херингтон предупреждает, что наше окно для закрепления этической и регуляторной базы вокруг ИИ в медицине закрывается. Ответственность лежит не только на разработчиках, но и на поставщиках медицинских услуг, чтобы обеспечить баланс между потенциальными преимуществами ИИ и этическими соображениями участия человека. Вопрос, который стоит остро, заключается в том, можем ли мы интегрировать ИИ в медицину, обеспечивая при этом равный доступ и уход для всех?
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
