El Gobierno Federal aborda las preocupaciones sobre la contratación con IA y promueve la igualdad

En una reciente entrevista de fin de año con CBC News, la Presidenta del Consejo del Tesoro, Anita Anand, delineó el compromiso del gobierno federal de prevenir la discriminación en los procesos de contratación impulsados por inteligencia artificial (IA). Anand reconoció las crecientes preocupaciones sobre el sesgo potencial introducido por las herramientas de IA y enfatizó la necesidad de cumplir con las leyes de privacidad y las prácticas de contratación no discriminatorias.

Abordando las herramientas de IA en la contratación federal

Anand abordó la incorporación de herramientas de IA en los procesos de contratación de algunos departamentos gubernamentales, citando el uso por parte del Departamento de Defensa Nacional de Knockri, una herramienta de evaluación de habilidades impulsada por IA, en entrevistas de trabajo pregrabadas. La herramienta utiliza el aprendizaje automático para analizar las respuestas de los candidatos, con el objetivo de reducir el sesgo y promover la equidad en la contratación. Anand subrayó la importancia de asegurar que las aplicaciones de IA cumplan con las leyes existentes y salvaguarden los principios no discriminatorios.

Directrices gubernamentales y supervisión

En septiembre, Anand introdujo directrices para los funcionarios públicos que utilizan herramientas de IA generativa en el trabajo, enfatizando el compromiso del gobierno de monitorear las aplicaciones de IA para prevenir el sesgo o la discriminación. A pesar de estos esfuerzos, un incidente reciente que involucró una imagen generada por IA que representaba a una mujer inuit llevó a una disculpa de Asuntos Globales. Anand destacó la disponibilidad de herramientas como el proceso de Evaluación del Impacto Algorítmico (AIA) para guiar a los departamentos, enfatizando la importancia de las consideraciones legales, políticas y éticas al implementar la IA.

Regulaciones y marco a largo plazo

Anand reconoció la naturaleza transformadora de la IA y expresó el deseo de abordar las lagunas en las regulaciones de Canadá concernientes al uso a largo plazo de la IA. Mientras explora el uso de herramientas impulsadas por IA, enfatizó la importancia de mantener la opción para que los canadienses interactúen con funcionarios públicos en vivo, asegurando un equilibrio entre los avances tecnológicos y el contacto humano. Anand también mencionó el Proyecto de Ley C-27, un marco para el uso de la IA en empresas reguladas a nivel federal, indicando el compromiso del gobierno de adoptar directrices aplicables a la economía en general.

Reestructuración de la tecnología obsoleta para la entrega de beneficios gubernamentales

Uno de los proyectos significativos en la agenda de Anand es la reestructuración de la tecnología obsoleta del gobierno utilizada para entregar beneficios como la Seguridad de la Vejez (OAS), el Plan de Pensiones de Canadá y el seguro de desempleo (EI). La iniciativa tiene como objetivo reemplazar sistemas desactualizados, con la primera transferencia de 600,000 beneficiarios extranjeros de OAS completada en junio. Anand delineó planes para la segunda fase, centrada en mejorar la entrega de pagos de OAS y EI en el próximo año.

Anand enfatizó el compromiso del gobierno de hacer progreso tangible en el reemplazo de sistemas de más de 45 años que entregan beneficios esenciales. Las investigaciones sugieren una correlación directa entre la confianza de los ciudadanos en el gobierno y la calidad de los servicios recibidos. A medida que el gobierno planea modernizar su tecnología, Anand destacó la importancia de infundir confianza en los ciudadanos a través de una entrega de servicios eficiente y actualizada.

Un enfoque prospectivo hacia la IA y la tecnología

Las declaraciones de la Presidenta del Consejo del Tesoro, Anita Anand, reflejan el enfoque proactivo del gobierno federal para abordar las preocupaciones relacionadas con las aplicaciones de IA, particularmente en el proceso de contratación. El compromiso con directrices, supervisión y regulaciones a largo plazo demuestra una dedicación a asegurar la equidad y la no discriminación en el panorama en evolución de la IA. A medida que el gobierno emprende la modernización de la tecnología para la entrega de beneficios, el énfasis de Anand en la confianza de los ciudadanos refuerza la importancia de encontrar un equilibrio entre los avances tecnológicos y el toque humano en los servicios públicos.