La nueva regla de discriminación de la IA en el sector sanitario está en marcha

La Oficina de Derechos Civiles (OCR) del Departamento de Salud y Servicios Humanos (HHS) emitió recientemente una regla final sobre la aplicabilidad de la sección 1557 de la Ley de Atención Médica Asequible, que limita cualquier programa de salud financiado con dólares federales a discriminar en base a raza, color, nacionalidad, sexo, edad o discapacidad.

Esta norma se alinea con la decisión de la Corte Suprema del Condado de Clayton en el caso Bostock v. de 2020, y la Sección 1557 se entiende como discriminación basada en el sexo, lo que incluye tanto la orientación sexual como ladentde género. La última norma resolvió además que, incluso cuando se aplica el aprendizaje automático en una tecnología impulsada por inteligencia artificial, las normas de uso de los proveedores se rigen por la Sección 1557. Por lo tanto, están obligados a examinar y abordar cualquier posible riesgo de discriminación.

Evaluación de los riesgos de sesgo en la IA

Según la norma de gobernanza, una "herramienta de apoyo a la toma de decisiones en la atención al paciente" es cualquier configuración independiente o combinada de cualquier tecnología o método que una entidad regulada utiliza para facilitar la toma de decisiones clínicas. Por ejemplo, algunos proveedores de herramientas para aplicaciones de atención directa al paciente incluyen algoritmos predictivos que pueden evaluar el riesgo del paciente y la gravedad de futuros eventos de salud, así como motores de análisis utilizados para avalar o rechazar reclamaciones médicas según la necesidad del tratamiento. 

La OCR afirmó que, con el uso de dichas herramientas y la preferencia por la toma de decisiones defiabarca tanto los vehículos automatizados como las ayudas no automatizadas, como los diagramas de flujo. Por lo tanto, la tecnología sanitaria podría ser injusta si se impide que las personas con discapacidad reciban la misma atención y los proveedores no consideran las características individuales del control de salud. basada en IA , es necesario reconsiderar la situación de cada paciente. Diversos estudios demostraron que la dependencia de ciertos algoritmos genera disparidades raciales y étnicas. Esta

Esfuerzos razonables de prevención de sesgos

La capacidad de la entidad cubierta para asumir la responsabilidad adicional del consumidor o sus recursos financieros. Si los productos se producen con la intención de cumplir con el uso previsto, según lo aprobado por los desarrolladores y los organismos reguladores, independientemente de la disposición de los datos, los desarrolladores deben esforzarse por informar a la entidad sobre el riesgo de discriminación.

Sea explícito acerca de si el sujeto de los datos (en cuyo nombre actúa la entidad cubierta) ha estado siguiendo un proceso o si la entidad cubierta (es decir, una organización que actúa en nombre del sujeto) ya ha desarrollado uno para evaluar las herramientas utilizadas.

Esta norma difiere radicalmente de la norma anterior, que establecía que los fondos de la Parte B de Medicare se clasifican como asistencia federal si se otorgan a proveedores y abastecedores. Reducir ligeramente el número de personas que reciben fondos de la Parte B y eximirlas de los requisitos de la Sección 1557 les permitirá cumplir con la Sección 1557 y otras regulaciones de derechos civiles implementadas por la Oficina de Derechos Civiles (OCR).