- Las directrices de CISA se centran en los riesgos y la gobernanza de la IA.
- La IA puede mejorar o amenazar la seguridad de las infraestructuras críticas.
- Las pruebas continuas de los sistemas de IA son fundamentales para la seguridad.
La Agencia de Seguridad Cibernética e Infraestructura (CISA) desveló nuevas recomendaciones en línea con el énfasis del Departamento de Seguridad Nacional (DHS) en la seguridad de la IA, que fue destacado por el establecimiento de un consejo especial de seguridad y protección no hace mucho tiempo.
Directrices de CISA para la seguridad de la IA en sectores críticos
Las directrices recién publicadas están destinadas a los propietarios y operadores de los seis sectores designados como infraestructuras críticas, que están servidos por áreas como la agricultura, la atención sanitaria y la tecnología de la información. Esta Guía es un conjunto mínimo requerido que hace que el sistema de IA sea seguro y resiliente mediante el uso de tecnologías de IA responsables. Estos enfoques de asesoramiento ofrecen orientación sobre la gobernanza, la evaluación de riesgos y la gestión continua de los procesos relacionados con la IA.
Los operadores pueden adoptar el marco de gestión de riesgos de IA de NIST para evaluar continuamente el impacto y los riesgos asociados con las implementaciones de IA. Esto incluye identificar dónde residen las dependencias de la IA y los efectos ambientales que tienen las tecnologías e intentar abordar cualquier vulnerabilidad planteada. Las reglas que recuerdan la realización de inventarios de IA de usos y la creación de procedimientos especiales para informar sobre los riesgos de seguridad relacionados con la IA recomiendan las directrices.
CISA reconoce que los CISO necesitan conocer la ruta crítica de la cadena de suministro de IA y probar los sistemas de IA para identificar lagunas de seguridad. Al enfatizar áreas específicas, los propietarios de infraestructuras enfrentan riesgos de IA de amplio espectro, incluidas fallas de diseño, ciberataques y brechas de seguridad física.
El papel dual de la IA en la infraestructura crítica
El documento demuestra que la IA tiene la oportunidad de transformar la gestión de la infraestructura crítica introduciendo una amplia percepción del entorno externo, automatizando el servicio al cliente, mejorando la seguridad física y haciendo que las predicciones sean más precisas.
Si bien esta innovación ayudará a hacer que los sistemas de infraestructura sean robustos en general, también es posible que los haga más expuestos a nuevas formas de ataques y fallos.
Estas directrices son solo un elemento de las iniciativas más amplias del Departamento de Seguridad Nacional destinadas a superar las complejidades de incluir la tecnología de IA en sus marcos de seguridad nacional. La pervasividad de la IA es doble: el despliegue de esta tecnología revolucionaria y la amenaza que plantea a la infraestructura sensible para los sistemas críticos, recuerda el Secretario de Seguridad Nacional Alejandro Mayorkas. El grupo de riesgo es muy reactivo a la situación y realiza iniciativas estratégicas para identificar y mitigar los peligros ocultos a través de la colaboración experta.
Iniciativas de IA del DHS
El DHS presentó su estrategia de IA a principios de año, estableciendo la hoja de ruta del DBDS y anunciando el lanzamiento de AI Corps. Este equipo de 2024 debería comprender 50 especialistas, que serán citados como expertos, con el objetivo de impulsar las capacidades de IA de la agencia. El nuevo consejo involucrará a pesos pesados en la esfera tecnológica, como Sam Altman de OpenAI y Sundar Pichai representando a la Compañía Alphabet.
El mandato de CISA en las nuevas Directrices de IA no es solo cumplir con sus deberes bajo la reciente orden ejecutiva asociada a la IA de la administración Biden, sino también establecer el primer ejemplo de análisis de riesgos similares que pueden realizarse en varios sectores de la sociedad. De esta manera, el Gobierno de EE. UU. destaca su liderazgo en la "matriz de seguridad de infraestructuras críticas", que está altamente correlacionada con la inteligencia artificial hoy en día.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Emman Omwanda
La experiencia de Emmanuel Omwanda se centra en los mercados de criptomonedas, abarcando tanto el análisis fundamental como el técnico. Anteriormente trabajó en diversos medios especializados en criptomonedas antes de unirse a Cryptopolitan, incluyendo CoinEdition, The Crypto Basic, CryptoNews Flash y DroomDroom. Es licenciado en Ciencias (BSc.) en Matemáticas y Ciencias de la Computación por la Universidad Kenyatta de Kenia y actualmente cursa su último año de una Licenciatura en Artes en Comunicación y Estudios de Medios.
