En un informe reciente, la Oficina de Responsabilidad Gubernamental (GAO) expresó su preocupación por la falta de preparación del gobierno de Estados Unidos para adoptar la inteligencia artificial (IA) y establecer estándares integrales para su uso. El informe destaca el rápido crecimiento de la adopción de la IA en las agencias gubernamentales, pero subraya la ausencia de una hoja de ruta y estándares claros, lo que podría representar importantes riesgos de seguridad.
Creciente adopción de IA en las agencias gubernamentales
El exhaustivo informe de 96 páginas de la GAO representa un esfuerzo significativo para documentar el creciente papel de la IA y el aprendizaje automático en las agencias gubernamentales no militares. El informe revela que la IA se utiliza actualmente de 228 maneras distintas en el gobierno federal, y casi el 50 % de estas aplicaciones surgieron tan solo el año pasado. La mayoría de estos usos, aproximadamente el 70 %, están relacionados con la investigación científica o tienen como objetivo mejorar la gestión interna de la agencia.
Cabe destacar que, si bien el informe enumera 71 casos de uso de IA, solo 10 de ellos se divulgaron públicamente. Algunos ejemplos incluyen el uso de IA por parte del Departamento de Comercio para tracde incendios forestales, el conteo automatizado de poblaciones de fauna silvestre y el monitoreo de la actividad volcánica global mediante IA por parte de la NASA. El Departamento de Seguridad Nacional también utiliza IA paradentactividades fronterizas de interés mediante el análisis de datos de cámaras y radares.
Sin embargo, el informe revela que muchas aplicaciones de IA siguen clasificadas, y las agencias federales solo divulgan el 70 % del total de 1241 casos de uso de IA activos y planificados. Más de 350 usos de la tecnología se consideraron sensibles y, por lo tanto, se ocultaron al público. Este secretismo, particularmentedent en agencias como el Departamento de Estado, plantea inquietudes sobre la transparencia y la supervisión de las aplicaciones de IA.
La GAO expresa su preocupación por la falta de estándares y políticas de IA
Si bien las agencias gubernamentales adoptan cada vez más la IA para diversas aplicaciones, el informe de la GAO enfatiza la necesidad crucial de políticas estandarizadas que guíen la adquisición y el uso responsable de la tecnología de IA del sector privado. La ausencia de directrices claras plantea riesgos potenciales para la seguridad nacional y el bienestar de los ciudadanos estadounidenses.
El informe señala que las agencias federales están desarrollando políticas sin una orientación coherente, lo que podría resultar en prácticas que no se ajustan a las mejores prácticas. Esta situación no solo obstaculiza la eficacia de la implementación de la IA, sino que también genera preocupación por las consecuencias para el bienestar y la seguridad nacionales.
Un problema importante que destaca la GAO es la demora en la publicación de directrices por parte de la Oficina de Administración y Presupuesto (OMB). Se esperaba que la OMB proporcionara un borrador de directrices a las agencias para septiembre de 2021, según lo dispuesto por una ley federal de 2020 sobre el uso de la IA en el gobierno. Sin embargo, estas directrices no se publicaron hasta noviembre de 2023, con un retraso de más de dos años. Este retraso ha obstaculizado el desarrollo de políticas cohesivas sobre IA en las agencias federales.
El papel de la IA en la aplicación de la ley y las preocupaciones sobre la privacidad
En un asunto relacionado, la GAO expresó previamente en septiembre su preocupación por el uso de la IA, en concreto la tecnología de reconocimiento facial, por parte de las fuerzas del orden. El informe reveló que entre 2019 y 2022 se realizaron miles de búsquedas de reconocimiento facial sin la capacitación adecuada, lo que podría derivar en arrestos injustificados por errores dedent. Este problema subraya la importancia del uso responsable de la IA y la necesidad de políticas claras y supervisión.
El informe de la GAO constituye una importante llamada de atención para el gobierno estadounidense, destacando tanto la rápida expansión de la adopción de la IA en las agencias gubernamentales como la falta de normas y políticas integrales que regulen su uso. Si bien la IA tiene un inmenso potencial para mejorar las operaciones y los servicios gubernamentales, la ausencia de directrices claras plantea importantes riesgos de seguridad y privacidad. La demora del gobierno en emitir directrices esenciales agrava aún más la situación. Dado que la IA sigue desempeñando un papel cada vez más importante en la sociedad, es imperativo abordar estas preocupaciones y establecer marcos de gobernanza sólidos.
