El intento de Nueva York de frenar el sesgo de la IA en la contratación fracasa y sofoca las iniciativas globales

En un intento por abordar el persistente problema del sesgo de la IA en la contratación, la ciudad de Nueva York implementó la Ley Local 144 (LL144) en 2021, que exige a los empleadores auditar anualmente las herramientas automatizadas de decisión de empleo (AEDT) para detectar sesgos raciales y de género. Sin embargo, un estudio reciente realizado por investigadores de la Universidad de Cornell, Consumer Reports y el Data & Society Research Institute ha revelado importantes deficiencias en la eficacia de la ley. El estudio, aún no publicado oficialmente, pero compartido con The Register, revela estadísticas alarmantes que indican un grave incumplimiento por parte de los empleadores sujetos a la LL144.

La realidad de la ineficacia de LL144 para el sesgo de la IA

Profundicemos en los detalles de la ley LL144 y las conclusiones del estudio. Resultadent que, a pesar de sus buenas intenciones, la LL144 carece de fuerza para obligar a los empleadores a abordar eficazmente el sesgo de la IA. Su amplio alcance otorga a los empleadores una considerable discreción para determinar si sus sistemas se encuentran bajo su jurisdicción. Sorprendentemente, de los 391 empleadores incluidos en la muestra, solo 18 habían publicado los informes de auditoría requeridos y tan solo 13 habían incluido avisos de transparencia en sus ofertas de empleo.

El coautor del estudio, Jacob Metcalf, de Data & Society, señaló las deficiencias de la ley LL144, enfatizando que otorga demasiada discreción a los empleadores. Cabe destacar que la ley no exige medidas correctivas si las auditorías revelan resultados discriminatorios, lo que expone a los empleadores a costosas demandas civiles. Los investigadores también analizaron la experiencia de los auditores que revisaron las AEDT utilizadas por las empresas de la ciudad de Nueva York, descubriendo casos en los que los empleadores optaron por no publicar los resultados de auditoría con cifras desfavorables debido a preocupaciones legales.

ramificaciones globales

El fracaso del intento de Nueva York de frenar el sesgo en la IA ha tenido repercusiones en iniciativas similares en todo el mundo. Las leyes propuestas en otras jurisdicciones, como California, Washington D. C. y el estado de Nueva York, han sufrido reveses a medida que los legisladores reconsideran sus estructuras ante las deficiencias de la LL144. Incluso la Ley de IA de la Unión Europea, aunque provisionalmente aprobada, enfrenta desafíos a la hora de defilas regulaciones para la IA utilizada en los procesos de contratación.

Cabe destacar que los problemas legales de la empresa de software de RR. HH. Workday subrayan la urgencia de abordar el sesgo en la IA. A pesar del éxito limitado de la ley LL144, los investigadores argumentan que esta constituye una valiosa experiencia de aprendizaje y un primer paso crucial hacia una mejor regulación. Sin embargo, insisten en la necesidad de ampliar el alcance de la legislación, instando a que las futuras leyes abandonen el lenguajetracy proporcionen defimás claras, en particular al determinar qué constituye el uso cubierto del software AEDT.

Un llamado a una legislación más clara

una pregunta crucial sobre el futuro de del sesgo en la IA . Dadas las deficiencias de la LL144, ¿qué lecciones se pueden extraer para diseñar una legislación global más eficaz e integral? A medida que continúan los debates sobre el sesgo en la IA, la necesidad de definiciones más claras defidentdentdentdentdentdentdentdent. El camino hacia la regulación de la IA en las decisiones de contratación puede estar plagado de desafíos, pero aprender de los errores de la LL144 podría allanar el camino hacia regulaciones más sólidas y con mayor impacto en el futuro.