Gobernanza de IA mejorada en todas las agencias federales de EE. UU. con nuevos protocolos de gestión

La Oficina de Gestión y Presupuesto (OMB) de los Estados Unidos ha publicado una nueva política para garantizar una supervisión eficiente del sector de la IA en expansión en sus contratos gubernamentales. La directiva está destinada a ayudar a los departamentos y agencias federales a mantenerse al día con las tendencias de innovación emergentes, la gestión de riesgos y la gobernanza.

El memorándum, escrito por la Sra. Shalanda D. Young, enfatiza principios fundamentales para implementar tecnologías de IA sin dañar los derechos y la seguridad de las personas. La posición de la administración es utilizar esta tecnología sabiamente y simultáneamente para el beneficio de otros.

Establecimiento de oficiales principales de IA para liderar la gobernanza responsable de la IA y la innovación

Un requisito básico del memorándum es proporcionar a cada departamento y agencia la designación de un Oficial Principal de IA (CAIO) dentro de los 60 días para tener un rol dedicado para supervisar las iniciativas de IA y la coordinación continua de esfuerzos con las políticas y principios éticos federales de IA existentes. 

Esta maniobra establece la filosofía de la rama ejecutiva de tener un órgano de gobernanza de IA bien ubicado dentro de las normas y la burocracia del gobierno federal, y por lo tanto, supervisa y asegura la rendición de cuentas. 

Las funciones de los CAIOs cargarán con una gran responsabilidad, incluida la coordinación del uso de la IA, la estimulación de la innovación, la administración de riesgos relacionados y la consulta a los ejecutivos principales de sus agencias sobre asuntos de IA como asesores senior.

Las directivas resumen las llamadas para un marco de innovación responsable de IA, alentando a las agencias a desarrollar opciones para integrar tecnologías de IA que mejoren su capacidad para adoptar tecnologías de IA de manera efectiva. 

Sin embargo, muestra la importancia de introducir regulaciones para minimizar los riesgos asociados con la IA, que van desde sesgos hasta otros efectos negativos. Las agencias de la Ley CFO están yendo tan lejos como desarrollar estrategias empresariales que llamen explícitamente al uso de la IA para promover la responsabilidad junto con la promoción de la innovación; el gobierno aplica una metodología integral para asegurar que la innovación sea nutrida mientras se construye la confianza pública al mismo tiempo.

Protección del interés público a través de la gestión de riesgos de IA

El memorándum recomienda hacer que los modelos de IA, códigos y datos sean utilizables y compartibles, facilitando las barreras para el uso de la IA. Como resultado del enfoque de arriba hacia abajo, el gobierno puede avanzar en sus capacidades innovadoras y promover la eficiencia y la cooperación dentro de sus varios sectores.

El memorándum enumera nuevas reglas y recomendaciones para reducir los riesgos que pueden resultar del uso de la IA y afectar la seguridad pública, las libertades y los derechos. Además, define prácticas clave de gestión de riesgos para aplicaciones de IA críticas para la seguridad y de alto riesgo, presentando a los representantes de las agencias una manera de identificar puntos críticos. Al mismo tiempo, el uso de la IA se ha vuelto más común.

En tiempos de la necesidad creciente de garantizar la imparcialidad de la IA en la toma de decisiones, este protocolo sienta las bases para que las agencias cumplan con ello, proporcionando ciertas reglas para prevenir manipulaciones e ilegalidades. Elaborar la gestión de riesgos demuestra que la administración se preocupa por la seguridad de la población y disfruta de los beneficios de la IA por igual.

El marco de inventario de casos de uso de IA propuesto en el memorándum abarca la estrategia diseñada para ejecutarse anualmente y encarna un enfoque sistemático y transparente que aborda la integración de la IA en todo el gobierno federal. 

Además de las agencias que deben informar sobre las métricas aplicadas de los casos de uso de IA que no son objeto de escrutinio, esto proporcionará la transparencia necesaria y mantendrá la integridad.

Equilibrar la innovación y la ética de la IA en la estrategia del gobierno de EE. UU.

Se abordan los órganos de gobernanza de la IA dentro de las agencias de la Ley CFO, lo que significa que se adopta un enfoque organizado para gobernar el uso de la IA, incluidas las funciones de política, programáticas, de investigación y regulatorias. 

Esta gobernanza matricial proyectada tiene como objetivo ampliar la capacidad del gobierno para implementar políticas innovadoras de manera responsable, armonizando las iniciativas de IA con los objetivos políticos más amplios y los valores sociales.

La publicación del memorando de la OMB podría ser el primer paso en el panorama general sobre las futuras tácticas del gobierno de EE. UU. hacia la inteligencia artificial, y puede considerarse un punto medio entre la aceleración tecnológica y el control ético y regulado. 

Al establecer parámetros bien definidos para el uso de la IA, como roles, responsabilidades y prácticas prescritas, la regulación tiene como objetivo crear un entorno propicio que equilibre la innovación libre con las responsabilidades de rendición de cuentas ante la confianza pública. 

Mientras se confía cada vez más en la IA para las actividades y la prestación de servicios a nivel estatal, este enfoque proactivo de regulación y gestión de riesgos se convierte en el único estándar para una IA responsable e inteligente que no resulte intrusiva.

Historia original de: https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf