La Casa Blanca exige pruebas de sesgo de inteligencia artificial para agencias federales

En una de sus principales iniciativas para estimular la adopción de tecnologías de IA por parte del gobierno de Estados Unidos con un enfoque responsable, la Casa Blanca ha dictado la necesidad de realizar sesgadas sobre las herramientas de IA utilizadas en las agencias gubernamentales. 

La Orden Ejecutiva, emitida a través de la OMB, presenta una de las agendas políticas clave de la administración Biden diseñada para contener la menor cantidad posible de riesgos que puedan surgir, incluida la discriminación, junto con las violaciones de la privacidad.

Las agencias federales se preparan para la supervisión y rendición de cuentas de la IA

Como se anunció en la política gubernamental, las agencias federales implementarán sistemas operativostronpara garantizar los derechos y la seguridad de las personas. Estos deberían estar implementados antes del 1 de diciembre, cuando la inteligencia artificial se aplique de tal manera que pueda influir en la vida de las personas. 

En particular, estas medidas están diseñadas para eliminar las distinciones, la vulneración de la esfera privada y las divergencias entre diferentes sectores, como la seguridad en el transporte, la atención médica y la prestación de servicios. Se deberían nombrar jefes de inteligencia artificial o de Delincuencia y Aplicación de la Ley, además de otras medidas para garantizar la supervisión

Para supervisar la ejecución de las directrices de la OMB sobre inteligencia artificial y coordinar su uso en las distintas oficinas, se nombrarán los Directores de Inteligencia Artificial (CSI). Estos funcionarios participarán en la creación y garantía de la transparencia y rendición de cuentas en las implementaciones de inteligencia artificial dentro del gobierno federal.

Ladent Kamala Harris enfatizó la intención de que estas políticas nacionales sirvan de modelo para la acción global, destacando la importancia de priorizar el interés público en el uso de la inteligencia artificial. El gobierno planea contratar al menos a 100 empleados especializados en inteligencia artificial para el verano, lo que refuerza su compromiso con esta iniciativa.

Pruebas rigurosas para sistemas de alto riesgo

Altos funcionarios de la administración han indicado que los sistemas de alto riesgo se someterán a rigurosas pruebas paradenty mitigar posibles sesgos y riesgos. Este enfoque proactivo subraya el compromiso de la administración de garantizar el uso responsable de la tecnología de inteligencia artificial en las operaciones gubernamentales.

Según las nuevas directrices, los estadounidenses pueden buscar soluciones si creen que los sistemas han generado información o decisiones falsas que los afectan. 

Las agencias federales deben publicar una lista de sistemas, evaluaciones de riesgos y estrategias de gestión. Se pueden otorgar exenciones para software que no cumpla con las normas administrativas, pero se debe proporcionar una justificación para promover la transparencia y la rendición de cuentas en el despliegue de inteligencia artificial.

Desafíos y direcciones futuras

Alexandra Reeve Givens, presidentadent directora ejecutiva del Centro para la Democracia y la Tecnología, elogió la guía como un paso significativo para garantizar el uso responsable de la IA dentro de las agencias federales. 

Givens enfatizó la importancia de implementar procesos rigurosos para evaluar el impacto potencial de las nuevas tecnologías en los individuos y las comunidades.

Si bien las agencias federales llevan años utilizando tecnología de IA, una regulación más amplia de la IA se ha estancado en el Congreso. Como resultado, la administración Biden está aprovechando la posición del gobierno como importante cliente tecnológico para establecer salvaguardas y promover la adopción responsable de la IA.

A pesar de las medidas proactivas adoptadas por la administración, persisten desafíos, en particular en lo que respecta a la perpetuación de sesgos en los sistemas de IA. Los casos de sesgo racial e imprecisiones en la toma de decisiones impulsada por la IA ponen de relieve la necesidad de una vigilancia y supervisión constantes en su implementación.

El mandato de la Casa Blanca para la evaluación de sesgos y la supervisión del uso de la IA en las agencias federales representa un paso significativo para garantizar la adopción responsable y ética de la tecnología de IA. Mediante la implementación de salvaguardas concretas, la promoción de la transparencia y el fomento de la rendición de cuentas pública, la administración busca abordar los riesgos potenciales y, al mismo tiempo, aprovechar el potencial transformador de la IA para el beneficio de la sociedad.