La Regla de Transparencia de la IA Desvela Beneficios Potenciales a pesar de las Limitaciones

Con el objetivo de aportar claridad a las aguas a menudo turbias de la inteligencia artificial (IA) en la atención médica, el Departamento de Salud y Servicios Humanos (HHS) ha instituido una medida pivotal: la Regla de Transparencia de la IA (HTI-1). Aunque elogiada por su intento de iluminar las complejidades de los modelos de IA predictiva, los expertos advierten que la regla, aunque beneficiosa, puede no ofrecer una solución holística a los desafíos arraigados en esta tecnología de rápido avance.

La Regla de Transparencia de la IA surge del reconocimiento de una falta generalizada de transparencia en el mercado de la IA en la atención médica, particularmente en lo que respecta a los modelos predictivos. Jeff Smith, Director Adjunto de Certificación y Pruebas en la Oficina del Coordinador Nacional (ONC) de Tecnología de la Información de Salud del HHS, subraya la urgencia detrás de esta iniciativa. La regla busca abordar la escasez de información sobre el diseño, desarrollo, pruebas, entrenamiento y evaluación de los modelos de IA predictiva, lo que ha llevado a daños documentados que afectan a millones de estadounidenses.

Iluminando los principios de la regla

Bajo la Regla de Transparencia de la IA, la ONC ha finalizado dos categorías políticas generales. Primero, la regla exige la disponibilidad de información integral sobre cómo se diseñan, desarrollan, entrenan, evalúan y deben utilizarse las Intervenciones de Apoyo a la Decisión (DSI) predictivas. Esto marca un paso crucial hacia el empoderamiento de los usuarios con una comprensión más profunda de los algoritmos de IA que emplean.

Además, la regla estipula que la gestión de riesgos desempeña un papel pivotal en el despliegue de las DSI predictivas, y que la gobernanza debe guiar su diseño e implementación. Al establecer un marco que incluye la divulgación de información y la gestión de riesgos, la regla tiene como objetivo crear una línea base para evaluar la calidad de los algoritmos de IA a escala nacional.

Mandar Karhade, Líder de Datos y Analítica en Avalere Health, enfatiza que la intención detrás de algunos modelos de IA no siempre es transparente. Ya sea que el objetivo sea el diagnóstico, el ahorro de costos u otro propósito, la falta de claridad plantea desafíos potenciales. Los Registros Electrónicos de Salud (EHR) emergen como un dominio susceptible, con características de IA como el “autocompletado” de Oracle que generan preocupaciones sobre la precisión y la adición no intencionada de datos.

Jeff Smith establece paralelismos entre la Regla de Transparencia de la IA y una etiqueta nutricional para alimentos, destacando su papel en proporcionar información esencial. Meghan O’Connor, experta legal de Quarles & Brady, desafía esta analogía, señalando la naturaleza subjetiva e inmedible de la información divulgada. Esto plantea preguntas sobre cómo los desarrolladores de TI de salud comunican dicha información y cómo los proveedores la integran en su análisis de riesgos.

Evaluando el alcance de la regla de transparencia de la IA

Niam Yaraghi, becario senior no residente en la Institución Brookings, ofrece una perspectiva crítica. Si bien reconoce el noble objetivo de la regla de garantizar la equidad en la IA, lo considera algo reactivo. Yaraghi aboga por políticas que fomenten avances rápidos en la IA y aborden barreras como los silos de datos en el sistema de atención médica.

Al navegar por el laberinto de la transparencia de la IA, la regla representa un paso significativo hacia adelante. Sin embargo, a medida que el panorama de la salud lidia con la naturaleza evolutiva de la IA, surgen preguntas: ¿Puede la transparencia por sí sola garantizar el uso responsable y equitativo de la IA en la atención médica? ¿Existen limitaciones inherentes en la capacidad de la regla para abordar los desafíos dinámicos planteados por la intersección de la tecnología y la atención médica? A medida que las partes interesadas avanzan con cautela por este escenario en evolución, la búsqueda de un equilibrio entre la innovación y la responsabilidad sigue siendo primordial.