В настоящее время разрабатывается новое правило дискриминации в сфере здравоохранения с использованием ИИ

Управление по гражданским правам (OCR) Министерства здравоохранения и социальных служб (HHS) недавно издало окончательное постановление о применимости раздела 1557 Закона о доступном здравоохранении, который ограничивает дискриминацию по признаку расы, цвета кожи, национальности, пола, возраста или инвалидности в любых программах здравоохранения, финансируемых из федерального бюджета.

Это правило соответствует решению Верховного суда по делу Босток против округа Клейтон от 2020 года, и раздел 1557 понимается как дискриминация «по признаку пола», которая включает в себя как сексуальную ориентацию, так и гендернуюdent. Последнее правило также установило, что даже когда машинное обучение применяется в технологиях на основе искусственного интеллекта, стандарты использования поставщиками остаются в рамках раздела 1557. Следовательно, они обязаны изучать и устранять любые потенциальные риски дискриминации.

Оценка рисков предвзятости ИИ

В соответствии с правилами управления, «инструмент поддержки принятия решений в области ухода за пациентами» — это любая автономная или комбинированная конфигурация любой технологии или метода, используемого организацией для содействия принятию клинических решений. Например, некоторые поставщики инструментов для непосредственного применения в уходе за пациентами включают в себя прогностические алгоритмы, которые могут оценивать риск для пациента и тяжесть будущих проблем со здоровьем, а также аналитические механизмы, используемые для одобрения или отклонения медицинских претензий на основе необходимости лечения. 

Управление по гражданским правам (OCR) заявило, что при использовании таких инструментов и предпочтении на основе ИИ необходимо пересмотреть ситуацию с каждым пациентом. Несколько исследований показали, что опора на определенные алгоритмы приводит к расовым и этническим различиям. Приведенное выше defiвключает в себя автоматизированные средства и неавтоматизированные вспомогательные средства, такие как блок-схемы. Таким образом, медицинские технологии могут быть несправедливыми, если люди с ограниченными возможностями лишены возможности получать равную медицинскую помощь, а поставщики медицинских услуг не учитывают индивидуальные особенности медицинского обследования.

Разумные меры по предотвращению предвзятости

Способность субъекта, подпадающего под действие настоящего соглашения, взять на себя дополнительную ответственность перед потребителем или его финансовые возможности. Независимо от того, производятся ли продукты с учетом их предполагаемого использования, одобренного разработчиками и регулирующими органами, и независимо от структуры данных, разработчики должны стремиться информировать субъекта о риске дискриминации.

Четко укажите, следовал ли субъект данных (от имени которого действует организация, подпадающая под действие закона) какой-либо процедуре или же организация, подпадающая под действие закона (т.е. организация, действующая от имени субъекта), уже разработала такую ​​процедуру для оценки используемых инструментов.

Это правило кардинально отличается от прежнего, согласно которому финансирование по программе Medicare Part B классифицируется как федеральная помощь, если оно предоставляется поставщикам медицинских услуг. Незначительное сокращение числа лиц, получающих средства по программе Part B, и освобождение их от раздела 1557 позволит им соблюдать раздел 1557 и другие положения о гражданских правах, введенные Управлением по гражданским правам (OCR).