Новое правило о дискриминации с помощью ИИ в секторе здравоохранения вступает в силу

Управление по вопросам гражданских прав (OCR) в Министерстве здравоохранения и социальных служб (HHS) недавно выпустило окончательное правило о применимости раздела 1557 Закона о доступном медицинском обслуживании, которое запрещает любой программе здравоохранения, финансируемой из федеральных средств, дискриминацию по признаку расы, цвета кожи, национальности, пола, возраста или инвалидности.

Это правило согласуется с решением Верховного суда по делу Bostock v. Clayton County 2020 года, и раздел 1557 понимается как дискриминация «по признаку пола», что включает как сексуальную ориентацию, так и гендерную идентичность. В последнем правиле также было решено, что даже при применении машинного обучения в технологиях на базе искусственного интеллекта стандарты использования поставщиками остаются в рамках раздела 1557. Следовательно, они обязаны выявлять и устранять любые потенциальные риски дискриминации.

Оценка рисков предвзятости ИИ

Согласно правилу управления, «инструмент поддержки принятия решений о лечении пациента» — это любой автономный или комбинированный конфигурацию любой технологии или метода, которую покрываемая организация использует для помощи в клиническом принятии решений. Например, некоторые поставщики инструментов для прямого применения в уходе за пациентами включают предиктивные алгоритмы, которые могут оценивать риск пациента и тяжесть будущих событий здоровья, а также аналитические движки, используемые для одобрения или отклонения медицинских претензий на основе необходимости лечения. 

OCR заявил, что с использованием таких инструментов и предпочтением AI-основанного принятия решений ситуация с каждым пациентом должна быть пересмотрена. Несколько исследований показали, что опора на определённые алгоритмы приводила к расовым и этническим неравенствам. Вышеуказанное определение охватывает как автономные транспортные средства, так и неавтономные вспомогательные средства, такие как блок-схемы. Таким образом, медицинские технологии могут быть несправедливыми, если людям с инвалидностью препятствуют в получении равного ухода, а поставщики услуг не учитывают индивидуальные особенности медицинского осмотра.

Разумные усилия по предотвращению предвзятости

Способность покрываемой организации взять на себя дополнительную ответственность перед потребителем или её финансовые средства. Если продукты производятся с намерением их использования по назначению, одобренному разработчиками и регуляторами, независимо от структуры данных, разработчики должны стремиться обучать организацию рискам дискриминации.

Чётко указывать, следовал ли субъект данных (от имени которого действует покрываемая организация) процессу, или сама покрываемая организация (т.е. организация, действующая от имени субъекта) уже разработала его для оценки используемых инструментов.

Это правило радикально отличается от предыдущего, в котором финансирование по программе Medicare Part B классифицировалось как федеральная помощь, если оно предоставляется поставщикам и поставщикам услуг. Небольшое сокращение числа лиц, получающих средства по Part B, и освобождение их от требований раздела 1557 заставит их соблюдать раздел 1557 и другие правила в области гражданских прав, реализованные офисом OCR.