El intento de Nueva York de frenar el sesgo de la IA en la contratación no da frutos, obstaculizando las iniciativas globales
- La Ordenanza Local 144 de la Ciudad de Nueva York (LL144), destinada a abordar el sesgo en los algoritmos de contratación con IA, resulta en gran medida ineficaz, ya que solo una fracción de los empleadores cumple con sus requisitos de auditoría y transparencia.
- Un estudio reciente de la Universidad de Cornell, Consumer Reports y el Instituto de Investigación Data & Society destaca deficiencias significativas en la LL144, revelando que otorga un exceso de discreción a los empleadores y no logra imponer acciones significativas contra resultados discriminatorios.
- El fracaso de la LL144 tiene repercusiones más allá de su jurisdicción, ya que otras regiones reconsideran leyes similares, obstaculizando los esfuerzos globales para regular el sesgo de la IA en las decisiones de empleo.
En un esfuerzo por abordar el persistente problema del sesgo de la IA en la contratación, la ciudad de Nueva York implementó la Ordenanza Local 144 (LL144) en 2021, que requiere que los empleadores realicen auditorías anuales de las herramientas automatizadas de decisión de empleo (AEDT) en busca de sesgos raciales y de género. Sin embargo, un estudio reciente realizado por investigadores de la Universidad de Cornell, Consumer Reports y el Instituto de Investigación Data & Society ha descubierto graves deficiencias en la efectividad de la ley. El estudio, aún sin publicar oficialmente pero compartido con The Register, revela estadísticas alarmantes que indican una marcada falta de cumplimiento entre los empleadores sujetos a la LL144.
La realidad de la ineficacia de la LL144 para el sesgo de la IA
Profundicemos en los detalles de la ley LL144 y los hallazgos del estudio. Resulta evidente que, a pesar de sus buenas intenciones, la LL144 carece de fuerza para obligar a los empleadores a abordar el sesgo de la IA de manera efectiva. El amplio alcance de la ley permite a los empleadores una discreción considerable para determinar si sus sistemas caen bajo su jurisdicción. Alarmantemente, de los 391 empleadores muestreados, solo 18 habían publicado los informes de auditoría requeridos, y apenas 13 habían incluido avisos de transparencia en sus ofertas de empleo.
El coautor del estudio, Jacob Metcalf de Data & Society, señaló las deficiencias de la LL144, enfatizando que otorga demasiada discreción a los empleadores. Cabe destacar que la ley no exige acciones correctivas si las auditorías descubren resultados discriminatorios, dejando a los empleadores vulnerables a costosas demandas civiles. Los investigadores también arrojaron luz sobre la experiencia de los auditores que revisaban las AEDT utilizadas por empresas de la ciudad de Nueva York, descubriendo casos en los que los empleadores optaron por no publicar los resultados de las auditorías con números desfavorables debido a preocupaciones legales.
Ramificaciones globales
El fracaso del intento de Nueva York de frenar el sesgo de la IA tiene efectos en cascada en iniciativas similares en todo el mundo. Las legislaciones propuestas en otras jurisdicciones, incluidas California, el Distrito de Columbia y el estado de Nueva York, han enfrentado contratiempos a medida que los legisladores reconsideran sus estructuras a la luz de las deficiencias de la LL144. Incluso la Ley de IA de la Unión Europea, aunque acordada provisionalmente, enfrenta desafíos para definir regulaciones para la IA utilizada en los procesos de reclutamiento.
Cabe destacar que los problemas legales de la firma de software de RR. HH. Workday subrayan la urgencia de abordar el sesgo de la IA. A pesar del éxito limitado de la LL144, los investigadores argumentan que la ley sirve como una valiosa experiencia de aprendizaje y un paso crucial hacia una mejor regulación. Sin embargo, enfatizan la necesidad de ampliar el alcance de la legislación, instando a las leyes futuras a abandonar el lenguaje abstracto y proporcionar definiciones más claras, particularmente al determinar qué constituye el uso cubierto del software AEDT.
Una llamada a una legislación más clara
Surge una pregunta crítica sobre el futuro de la regulación del sesgo de la IA. Dadas las deficiencias de la LL144, ¿qué lecciones se pueden extraer para dar forma a una legislación más efectiva y completa a nivel mundial? A medida que continúan los debates sobre el sesgo de la IA, la necesidad de definiciones más claras, un alcance más amplio y medidas de aplicación estrictas se vuelve cada vez más evidente. El camino para regular la IA en las decisiones de contratación puede estar lleno de desafíos, pero aprender de los errores de la LL144 podría allanar el camino para regulaciones más sólidas e impactantes en el futuro.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
