La EEOC alcanza un acuerdo histórico en el primer caso de discriminación por IA

En un desarrollo histórico, la Comisión de Igualdad de Oportunidades en el Empleo de EE. UU. (EEOC, por sus siglas en inglés) ha alcanzado un acuerdo provisional en su primera demanda por discriminación centrada en el uso de software de inteligencia artificial (IA) en las prácticas de contratación. El caso subraya el compromiso de la EEOC de abordar los posibles sesgos en los procesos de reclutamiento impulsados por IA, una preocupación creciente a medida que la tecnología desempeña un papel cada vez más crucial en las decisiones de empleo. La demanda, EEOC contra iTutorGroup, Inc., marca un hito significativo en el diálogo continuo sobre las implicaciones éticas y legales de la IA en el empleo.

La postura firme de la EEOC sobre la IA y la discriminación

En mayo de 2022, la EEOC, en asociación con el Departamento de Justicia de EE. UU., adoptó un enfoque proactivo al publicar directrices para proporcionar claridad a empleadores, empleados y solicitantes sobre el uso adecuado de las herramientas de IA en los procesos de empleo. Este movimiento significó el reconocimiento de las posibles trampas que podrían surgir de la dependencia acrítica de los sistemas impulsados por IA. Las directrices sentaron las bases para acciones posteriores, incluida una audiencia pública celebrada por la EEOC en enero del año siguiente. La audiencia, que contó con la participación de casi 3.000 asistentes virtuales, presentó testimonios de una diversa variedad de expertos, desde la Unión Estadounidense de Libertades Civiles hasta la Cámara de Comercio de EE. UU. y representantes de despachos de abogados e instituciones académicas.

El caso de iTutorGroup y las alegaciones de discriminación por edad

En el caso de EEOC contra iTutorGroup, Inc., la EEOC formuló alegaciones contra iTutorGroup, un proveedor de servicios de tutoría en inglés para estudiantes en China. La reclamación central giraba en torno al supuesto uso por parte de la empresa de software de IA que rechazaba automáticamente a los solicitantes basándose en su edad. Esta práctica discriminatoria salió a la luz cuando un solicitante inicialmente rechazado volvió a aplicar con una fecha de nacimiento diferente y fue aceptado posteriormente para el puesto. El caso ejemplifica las consecuencias de gran alcance que pueden tener las herramientas de selección basadas en IA, llevando inadvertidamente a resultados injustos e ilegales.

Detalles del acuerdo provisional y el decreto de consentimiento

La EEOC e iTutorGroup han entrado ahora en un acuerdo provisional, pendiente de aprobación por parte del juez Pamela K. Chen. El decreto de consentimiento propuesto describe medidas integrales para rectificar las prácticas discriminatorias alegadas. Según los términos del decreto, iTutorGroup ha aceptado pagar un total de 365.000 dólares, que se distribuirán entre más de 200 solicitantes que fueron injustamente denegados de puestos, violando la Ley de Discriminación por Edad en el Empleo. La empresa también está obligada a invitar a los solicitantes rechazados previamente entre marzo y abril de 2020 a volver a aplicar para los puestos. Además, se le exige a iTutorGroup adoptar políticas antidiscriminación e implementar capacitación antidiscriminación para sus empleados.

Avances contra el sesgo de IA e implicaciones para el futuro

Este caso histórico destaca la postura robusta de la EEOC contra las empresas que emplean software de IA en sus procesos de reclutamiento. Las implicaciones de este acuerdo se extienden más allá de las partes involucradas inmediatamente, resonando en toda la industria tecnológica y los sectores de empleo en general. El escrutinio de la EEOC sobre las herramientas de IA se extiende a varias categorías de aplicaciones que generan preocupaciones entre críticos y defensores de la ética de la IA por igual. Ejemplos notables incluyen:

• Escáneres de currículum y priorización de palabras clave: Algunas herramientas de IA emplean escáneres de currículum para priorizar las solicitudes basándose en palabras clave específicas. Si bien esto puede agilizar la selección inicial, también plantea dudas sobre la posible perpetuación de los sesgos asociados con estas palabras clave.
• Software de monitoreo de empleados: Las herramientas de monitoreo de empleados impulsadas por IA que evalúan el rendimiento basándose en factores como los pulsaciones de teclado generan preocupaciones sobre la erosión de la privacidad de los empleados y la posibilidad de evaluaciones inexactas.
• Asistentes virtuales y chatbots: Los asistentes virtuales o chatbots que evalúan las calificaciones de los candidatos podrían excluir inadvertidamente a personas prometedoras que no cumplen con los criterios predefinidos, perdiendo perspectivas y capacidades diversas.
• Entrevistas en video y análisis de expresiones faciales: El software de entrevistas en video que evalúa a los candidatos basándose en expresiones faciales y patrones de habla puede introducir inadvertidamente evaluaciones subjetivas y potencialmente discriminatorias.
• Software de pruebas y puntuación de ajuste al puesto: El software de pruebas que asigna puntuaciones de «ajuste al puesto» basándose en aptitudes, personalidades o compatibilidad cultural percibida genera preocupaciones sobre cómo se miden estos factores y si podrían conducir a una discriminación injusta.

Mirando hacia adelante: decreto de consentimiento de cinco años

Si el decreto de consentimiento recibe la aprobación de la jueza Chen, permanecerá en vigor durante cinco años. Este compromiso temporal refleja la determinación de la EEOC de garantizar cambios y mejoras sostenidas en las prácticas de contratación de iTutorGroup. El resultado de este caso servirá como precedente para futuras acciones legales que involucren discriminación por IA, estableciendo expectativas para que las empresas sean diligentes en la evaluación y mitigación de sesgos dentro de sus procesos de contratación impulsados por tecnología.

El enfoque proactivo de la EEOC, la respuesta colectiva de expertos y partes interesadas, y el acuerdo pivotal en EEOC contra iTutorGroup, Inc., señalan colectivamente un momento crucial en la narrativa continua en torno a la IA, la ética y la ley de empleo. Es probable que los próximos años presencien un enfoque intensificado en el despliegue responsable de las herramientas de IA, con las empresas siendo responsabilizadas por el impacto de su tecnología en la diversidad, la equidad y la igualdad de oportunidades.