Navegando el complejo panorama de la seguridad y gobernanza de la IA

En los recientes desarrollos, el panorama global de la IA ha visto a figuras como Sam Altman asumir un papel destacado, influyendo potencialmente en los aspectos regulatorios del desarrollo de la IA. Este cambio de enfoque hacia la captura regulatoria ha planteado preguntas sobre la postura de organizaciones como OpenAI con respecto a la IA de código abierto. Sin embargo, este artículo va más allá del ámbito del desarrollo de la IA para adentrarse en las cuestiones críticas que rodean la seguridad y la estandarización de la IA.

En el entorno de amenazas cibernéticas en rápida evolución, donde la automatización y los sistemas de IA están a la vanguardia, es crucial enfatizar el papel de las capacidades de automatización de la seguridad. Considere el simple acto de revisar y responder correos electrónicos en el mundo actual, y descubrirá las intrincadas capas de IA y automatización involucradas en asegurar esta actividad cotidiana.

Las organizaciones de tamaño y complejidad significativos dependen cada vez más de los sistemas de automatización de seguridad para aplicar eficazmente sus políticas de ciberseguridad. Sin embargo, en medio de esta dependencia de la automatización, hay un aspecto crucial que a menudo se pasa por alto: el ámbito de las "metapolíticas" de ciberseguridad. Estas metapolíticas abarcan mecanismos de intercambio automatizado de datos de amenazas, convenciones de atribución y sistemas de gestión del conocimiento. Colectivamente, contribuyen a lo que a menudo se denomina "defensa activa" o "ciberseguridad proactiva".

Sorprendentemente, las políticas nacionales de ciberseguridad con frecuencia carecen de referencias explícitas a estas metapolíticas. Tienden a incorporarse implícitamente en las implementaciones nacionales a través de la influencia y la imitación, en lugar de deliberaciones formales o estratégicas.

Estas metapolíticas de automatización de seguridad tienen una importancia inmensa en el contexto de la gobernanza y la seguridad de la IA, ya que los sistemas de IA, ya sean puramente digitales o ciberfísicos, existen dentro del marco más amplio de la ciberseguridad y la estrategia. Por lo tanto, surge la pregunta de si la adaptación de las metapolíticas de automatización existentes es adecuada para dar forma al futuro de la IA.

La necesidad de metapolíticas unificadas de ciberseguridad

Una tendencia significativa es la integración de prácticas de seguridad del dominio del software en movimiento (software-on-wheels) en varios sistemas automotrices complejos. Esto se extiende desde tanques totalmente digitalizados, que prometen reducir el tamaño de la tripulación y aumentar la letalidad, hasta estándares para la gestión automatizada de la seguridad de flotas y sistemas de transporte de drones. Esta evolución ha dado lugar a Centros de Operaciones de Seguridad (SOC) vehiculares que operan bajo líneas similares a los SOC de ciberseguridad, utilizando mecanismos de intercambio de datos y implementaciones de automatización de seguridad similares. Sin embargo, adaptar ciegamente los medios existentes al panorama de amenazas emergente está lejos de ser suficiente.

Por ejemplo, la mayoría de los intercambios de datos de amenazas de ciberseguridad dependen del Protocolo de Semáforo de Tráfico (TLP), que sirve principalmente como un sistema de clasificación de información. Sin embargo, la ejecución del TLP y cualquier mecanismo de cifrado para restringir la distribución a menudo se dejan a discreción de los diseñadores de sistemas de automatización de seguridad. Esto destaca la necesidad de controles más finos sobre el intercambio de datos con sistemas automatizados y garantizar el cumplimiento.

Otro ejemplo de metapolíticas inconsistentes se puede ver en la reciente proliferación de sistemas de generación de lenguaje y agentes de IA conversacional. No todos los agentes conversacionales son redes neuronales grandes como ChatGPT; muchos han operado durante décadas como programas de generación de lenguaje basados en reglas y específicos para tareas. Cerrar la brecha entre la infraestructura de TI heredada y los paradigmas emergentes de automatización de IA presenta desafíos para las organizaciones que experimentan una transformación digital.