Pruebas de sesgo en IA obligatorias para agencias federales por parte de la Casa Blanca
- El gobierno exige pruebas de sesgo para la rendición de cuentas de la IA.
- Se nombran Directores de Inteligencia Artificial para supervisar el uso responsable.
- La supervisión pública garantiza la transparencia en el despliegue de la IA.
En una de sus principales iniciativas para impulsar la adopción de tecnologías de IA por parte del gobierno en Estados Unidos con un enfoque responsable, la Casa Blanca ha dictaminado la necesidad de realizar pruebas con sesgo en las herramientas de IA utilizadas en las agencias gubernamentales.
La Orden Ejecutiva, emitida a través de la Oficina de Gestión y Presupuesto (OMB), presenta una de las principales agendas de políticas de la administración Biden diseñadas para contener el menor riesgo posible que pueda surgir, incluida la discriminación, junto con violaciones de la privacidad.
Las agencias federales se preparan para la supervisión y rendición de cuentas de la IA
Según lo anunciado en la política de todo el gobierno, las agencias federales compilarán sistemas operativos sólidos para conformarse con los derechos y la seguridad de las personas. Deberán implementarse para el 1 de diciembre, cuando la inteligencia artificial se aplique de tal manera que pueda influir en las vidas de las personas.
En particular, estas medidas están diseñadas para eliminar distinciones, infracciones de la esfera privada y divergencias entre diferentes sectores, incluida la seguridad en el transporte, la atención médica y la prestación de servicios. Se deben nombrar jefes de inteligencia artificial o de Crimen y Aplicación de la Ley, además de otras medidas, para garantizar la supervisión.
Se nombrarán a los Jefes de Inteligencia Artificial para supervisar la ejecución de la guía de la OMB sobre inteligencia artificial y coordinar su uso entre las diferentes oficinas. Estos funcionarios participarán en la creación y garantía de que los despliegues de inteligencia artificial dentro del gobierno federal sean transparentes y responsables.
La vicepresidenta Kamala Harris enfatizó la intención de que estas políticas internas sirvan como modelo para la acción global, destacando la importancia de priorizar el interés público en el uso de la inteligencia artificial. La administración planea contratar al menos a 100 empleados enfocados en inteligencia artificial para el verano, lo que destaca aún más su compromiso con esta iniciativa.
Pruebas rigurosas para sistemas de alto riesgo
Los altos funcionarios de la administración han señalado que los sistemas de alto riesgo se someterán a pruebas rigurosas para identificar y mitigar posibles sesgos y riesgos. Este enfoque proactivo subraya el compromiso de la administración de garantizar el uso responsable de la tecnología de inteligencia artificial en las operaciones gubernamentales.
Bajo las nuevas directrices, los estadounidenses pueden buscar recursos si creen que los sistemas han llevado a información falsa o decisiones que los afectan.
Las agencias federales deben publicar una lista de sistemas, evaluaciones de riesgo y estrategias de gestión. Se pueden otorgar exenciones para el software que no cumpla con las reglas de la administración, pero se debe proporcionar una justificación, promoviendo la transparencia y la rendición de cuentas en el despliegue de inteligencia artificial.
Desafíos y direcciones futuras
Alexandra Reeve Givens, Presidenta y CEO del Centro para la Democracia y la Tecnología, elogió la guía como un paso significativo hacia la garantía de un uso responsable de la IA dentro de las agencias federales.
Givens enfatizó la importancia de tener procesos rigurosos en su lugar para evaluar el impacto potencial de las nuevas tecnologías en los individuos y las comunidades.
Aunque las agencias federales han estado utilizando tecnología de IA durante años, la regulación más amplia de la IA se ha estancado en el Congreso. Como resultado, la administración Biden está aprovechando la posición del gobierno como un importante cliente de tecnología para establecer salvaguardas y promover la adopción responsable de la IA.
A pesar de las medidas proactivas tomadas por la administración, persisten desafíos, particularmente en lo que respecta a la perpetuación de sesgos en los sistemas de IA. Los casos de sesgo racial e inexactitudes en la toma de decisiones impulsada por IA destacan la necesidad de una vigilancia y supervisión continuas en el despliegue de IA.
La orden de la Casa Blanca para las pruebas de sesgo y la supervisión del uso de IA en las agencias federales representa un paso significativo hacia la garantía de una adopción responsable y ética de la tecnología de IA. Al implementar salvaguardas concretas, promover la transparencia y fomentar la responsabilidad pública, la administración tiene como objetivo abordar los riesgos potenciales mientras aprovecha el potencial transformador de la IA para el beneficio de la sociedad.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Emman Omwanda
La experiencia de Emmanuel Omwanda se centra en los mercados de criptomonedas, abarcando tanto el análisis fundamental como el técnico. Anteriormente trabajó en diversos medios especializados en criptomonedas antes de unirse a Cryptopolitan, incluyendo CoinEdition, The Crypto Basic, CryptoNews Flash y DroomDroom. Es licenciado en Ciencias (BSc.) en Matemáticas y Ciencias de la Computación por la Universidad Kenyatta de Kenia y actualmente cursa su último año de una Licenciatura en Artes en Comunicación y Estudios de Medios.
