Las agencias globales de ciberseguridad promueven un enfoque de "seguridad por diseño" en las directrices de seguridad de la IA

El Centro Nacional de Ciberseguridad del Reino Unido (NCSC) y la Agencia de Ciberseguridad y Seguridad de Infraestructura de EE. UU. (CISA), junto con 22 socios cibernéticos de todo el mundo, han presentado un conjunto integral de directrices para garantizar la seguridad de los sistemas de inteligencia artificial (IA). Con énfasis en la filosofía de "seguridad por diseño", la guía profundiza en aspectos cruciales del desarrollo de la IA, con el objetivo de fortalecer la tecnología contra ciberamenazas y vulnerabilidades.

La guía conjunta, titulada “Secure by Design”, destaca los crecientes riesgos de seguridad asociados con las aplicaciones de inteligencia artificial y aprendizaje automático, abordando específicamente las preocupaciones derivadas de las vulnerabilidades de la cadena de suministro y los modelos utilizados en estos sistemas.

Los pilares de la seguridad

Bajo el lema general "Seguridad por Diseño", las directrices se centran en cuatro áreas clave: diseño seguro, desarrollo seguro, implementación segura, y operación y mantenimiento seguros. Estos pilares, en conjunto, buscan crear un marco sólido para proteger los sistemas de IA contra posibles ciberamenazas.

El pilar inaugural enfatiza concienzudamente la importancia indiscutible y primordial de inculcar meticulosamente, desde el inicio mismo de la conceptualización, un compromiso profundo y generalizado con una filosofía centrada en la seguridad en la esencia misma de los sistemas de IA. Este pilar subraya y articula firmemente la necesidad innegociable de que los desarrolladores infundan con asiduidad en la arquitectura fundamental del sistema una conciencia profunda e inquebrantable de las consideraciones de seguridad, aliviando y mitigando así de forma eficaz y preventiva las vulnerabilidades estrechamente relacionadas con el uso de modelos y API de terceros.

El pilar siguiente, que sucede de manera fluida y orgánica al principio fundacional, expone y extiende el alcance del paradigma de seguridad antes mencionado al ámbito laberíntico y matizado de la fase de desarrollo. 

Este pilar defiende condenty fervor una amplia gama de medidas juiciosas y sagaces, que incluyen, entre otras, el escrupuloso y minucioso examen de las API externas para detectar posibles lagunas y fallas, la limitación juiciosa y circunspecta de la extensión y el ámbito de las transferencias de datos a dominios externos, y el escrutinio y saneamiento asiduo y minucioso de los datos de entrenamiento con un compromiso inquebrantable de obviar y prevenir cualquier manifestación imprevista e indeseada del comportamiento del sistema que pueda comprometer potencialmente la santidad sagrada de la postura de seguridad.

Abordar los desafíos en el cumplimiento de la seguridad de la IA global

A pesar de que las directrices representan un avance significativo hacia la cooperación internacional en seguridad de la IA, surgen desafíos en cuanto a su aplicación. Tom Guarente,dent de Asuntos Externos y Gubernamentales de Armis, destaca la posible dificultad para que los países que no participan en el desarrollo de las directrices implementen estas recomendaciones. Esto plantea interrogantes sobre cómo garantizar su cumplimiento a nivel mundial, especialmente cuando actores importantes como China, Rusia e Irán aún no se han comprometido con las regulaciones globales de IA.

Guarente señala la posible disparidad en la facilidad de implementación, sugiriendo que a los países involucrados en la elaboración de las directrices podría resultarles más sencillo adherirse a ellas que a los excluidos del proceso de desarrollo.

Si bien las directrices reconocen colectivamente el papel crucial de la ciberseguridad en el cambiante panorama de la IA, persisten los desafíos para aplicar estas medidas a escala global. Las preocupaciones de Guarente reflejan la necesidad de un consenso y un compromiso internacionales más amplios para garantizar la seguridad de la IA.

Colaboración internacional y desafíos en la orientación sobre seguridad de la IA

A medida que la comunidad global avanza significativamente hacia el establecimiento de estándares comunes para la seguridad de la IA, el verdadero desafío radica en garantizar su adopción y aplicación generalizadas. ¿Cómo puede la comunidad internacional superar la brecha y lograr la aceptación de países que no participan en el esfuerzo colaborativo? El camino hacia la seguridad de la IA está sin duda en marcha, pero el camino por recorrer requiere sortear complejidades y fomentar un compromiso unificado para salvaguardar esta tecnología transformadora.