Nuevas medidas de seguridad de IA reveladas por CISA

La Agencia de Seguridad Cibernética y de Infraestructura (CISA) dio a conocer nuevas recomendaciones en línea con el énfasis del Departamento de Seguridad Nacional (DHS) en la seguridad de la IA, que se destacó con el establecimiento de una junta especial de seguridad recientemente.

Directrices de CISA para la seguridad de la IA en sectores críticos

Las directrices recién publicadas están dirigidas a los propietarios y operadores de los seis sectores designados como infraestructuras críticas, que abarcan áreas como la agricultura, la salud y las tecnologías de la información. Esta guía constituye un conjunto mínimo de requisitos que garantiza la seguridad y resiliencia del sistema de IA mediante el uso de tecnologías de IA responsables. Estos enfoques de asesoramiento ofrecen orientación sobre la gobernanza, la evaluación de riesgos y la gestión continua de los procesos relacionados con la IA.

Los operadores pueden adoptar el marco de gestión de riesgos de IA del NIST para evaluar continuamente el impacto y los riesgos asociados a las implementaciones de IA. Esto incluyedentlas dependencias de la IA y los efectos ambientales de las tecnologías, así como intentar abordar cualquier vulnerabilidad detectada. Las directrices recomiendan normas que recuerden la realización de inventarios de usos de la IA y la creación de procedimientos especiales para informar sobre los riesgos de seguridad relacionados con la IA.

CISA reconoce que los CISO necesitan conocer la ruta crítica de la cadena de suministro de IA y probar los sistemas de IA paradentbrechas de seguridad. Al enfatizar áreas específicas, los propietarios de infraestructura se enfrentan a un amplio espectro de riesgos relacionados con la IA, incluyendo fallas de diseño, ciberataques y brechas de seguridad física.

El doble papel de la IA en las infraestructuras críticas

El documento demuestra que la IA tiene la oportunidad de transformar la gestión de infraestructura crítica al introducir una amplia detección del entorno externo, automatizar el servicio al cliente, mejorar la seguridad física y hacer que las previsiones sean más precisas. 

Si bien esta innovación ayudará a que los sistemas de infraestructura sean robustos en todos los ámbitos, también es posible que los deje más expuestos a nuevas formas de ataques y fallas.

Estas directrices son solo un elemento de las iniciativas más amplias del Departamento de Seguridad Nacional destinadas a superar las complejidades de la incorporación de la tecnología de IA en sus marcos de seguridad nacional. La omnipresencia de la IA tiene dos vertientes: la implementación de esta tecnología revolucionaria y la amenaza que representa para la infraestructura sensible de sistemas críticos, como recuerda el secretario de Seguridad Nacional, Alejandro Mayorkas. El grupo de riesgo reacciona con gran rapidez ante la situación y lleva a cabo iniciativas estratégicas paradenty mitigar los riesgos ocultos mediante la colaboración de expertos.

Iniciativas de inteligencia artificial del DHS

El DHS presentó su estrategia de IA a principios de año, definiendo la hoja de ruta del DBDS y anunciando el lanzamiento del Cuerpo de IA. Este equipo, en 2024, estará compuesto por 50 especialistas, que se clasificarán como expertos, con el objetivo de impulsar las capacidades de IA de la agencia. La nueva junta directiva incluirá figuras clave del sector tecnológico, como Sam Altman, de OpenAI, y Sundar Pichai, de Alphabet Company.

El mandato de CISA en las nuevas Directrices de IA no solo consiste en cumplir con sus obligaciones bajo la reciente orden ejecutiva relacionada con la IA de la administración Biden, sino también en establecer el primer ejemplo de análisis de riesgos similares que puedan realizarse en diversos sectores de la sociedad. De esta manera, el gobierno estadounidense destaca su liderazgo en la "matriz de seguridad de infraestructuras críticas", que actualmente está altamente correlacionada con la inteligencia artificial.