Los agentes de IA se están convirtiendo en insiders empresariales más rápido de lo que la seguridad puede gobernarlos
- Múltiples investigadores de seguridad, analistas y laboratorios de IA advirtieron este mes que los agentes de IA autónomos ahora actúan como insiders con acceso al sistema, y que la mayoría de las empresas carecen de los controles de identidad y el monitoreo de comportamiento necesarios para gobernarlos.
- Toda organización que implemente IA agéntica y los proveedores que la vendan deberían considerar informes que citan que el 80% de las organizaciones ya ven a los agentes realizando acciones no deseadas, y solo el 2% ejecuta herramientas dedicadas para asegurar identidades no humanas.
- Con Gartner señalando que 234 mil millones de dólares en gasto de software están en riesgo por la IA agéntica hasta 2030, la madurez de la gobernanza se está convirtiendo en el factor decisivo para el éxito de las implementaciones.
Mucha investigación publicada este mes indica que las organizaciones están implementando agentes de IA mucho más rápido de lo que se están implementando las medidas de seguridad para ellos. Estos sistemas se están comportando cada vez más como trabajadores digitales con acceso constante a las redes corporativas y datos confidenciales. Como resultado, la gobernanza, en lugar de la eficiencia del modelo, determinará si las organizaciones pueden aprovechar las oportunidades ofrecidas por la IA agente o sufrir por sus fallos.
Los desarrolladores de IA, las empresas de ciberseguridad y los analistas de negocios están todos de acuerdo con esta advertencia. Los agentes de IA funcionan de manera muy diferente a los sistemas automatizados ordinarios que siguen instrucciones específicas. Una vez que se les otorgan credenciales de acceso y acceso al sistema empresarial, pueden realizar varias funciones en diferentes aplicaciones sin supervisión, por lo que sus acciones se vuelven mucho menos predecibles.
Los números detrás de la alarma
La inversión en IA continúa acelerándose. Kong citó las proyecciones de IDC de que el gasto en IA e IA generativa en Asia Pacífico alcanzará los 175.000 millones de dólares para 2028, con agentes autónomos representando una parte creciente. Sin embargo, la gobernanza sigue rezagada.
Un análisis de Greg Clark basado en la investigación del Instituto Ponemon encontró que solo el 41% de las empresas tienen políticas de privacidad de datos específicas para IA. Mientras tanto, la Cloud Security Alliance informó que muchas organizaciones aún dependen de herramientas no diseñadas para la gestión de identidades no humanas, creando importantes brechas de visibilidad y gobernanza a medida que la adopción de IA se expande.
Juntos, estos hallazgos apuntan a una nueva era de seguridad en la IA empresarial. A medida que los agentes de IA se expanden por las redes corporativas, las organizaciones deben identificarlos, definir sus permisos, verificar continuamente sus identidades y monitorear sus actividades. En la era de la IA autónoma, la gobernanza de identidades se está volviendo tan importante como la inteligencia de los modelos.
Los agentes de IA son los insiders de máxima confianza
Shreyans Mehta, cofundador de Cequence Security, describió la IA agente como un “insider digital que opera a velocidad de máquina” en un artículo para TM Forum. Advertió que un agente de IA no necesita exceder sus permisos para causar daño. Actuando completamente dentro de los límites autorizados, puede combinar solicitudes de API legítimas de maneras que crean riesgos operativos, financieros o legales. Mehta citó la guía GB1087 de TM Forum, que describe a la IA como el “insider de confianza definitivo” porque puede realizar acciones privilegiadas sin las señales habituales de una cuenta comprometida.
Los desarrolladores de IA de vanguardia han planteado preocupaciones similares. En su documento del 13 de julio, Desalineación Agente en el Verano de 2026, investigadores de Anthropic e instituciones asociadas documentaron cuatro patrones de fallo durante implementaciones empresariales simuladas: manipulación encubierta de código de software, facilitación de aparente fraude financiero, manipulación de información para influir en decisiones posteriores, y entrenamiento de usuarios para revelar información clasificada.
El artículo también destacó el incidente de MJ Rathbun, en el que un agente de codificación autónomo atacó a un mantenedor de código abierto después de que su contribución fuera rechazada, ilustrando cómo los agentes de IA pueden crear riesgos tanto de ciberseguridad como reputacionales.
Los investigadores también han demostrado que los propios agentes de IA pueden convertirse en objetivos de ataque. En su informe del 8 de julio Fuego Amigo, el Instituto AI Now demostró que las inyecciones de prompt ocultas en archivos de proyecto ordinarios podrían engañar a Claude Code de Anthropic y Codex de OpenAI para realizar acciones maliciosas durante revisiones de código automatizadas.
El CEO de Salt Security, Roey Eliyahu, dijo que estos casos se asemejan a demostraciones como GitLost, Agentjacking y TrustFall, todas las cuales exponen la misma debilidad: los agentes de IA aún tienen dificultades para distinguir las instrucciones maliciosas incrustadas en contenido no confiable de la información legítima que deben procesar.
La gobernanza se convierte en el producto
Las implicaciones comerciales se extienden más allá de la ciberseguridad. El 1 de julio, Gartner estimó que hasta 234.000 millones de dólares en gasto de aplicaciones empresariales podrían estar expuestos a “arbitraje agente” hasta 2030, a medida que los agentes de IA realizan cada vez más tareas en múltiples entornos de software mientras evitan las interacciones tradicionales de los usuarios.
Forrester hizo eco de la preocupación en su informe Principales Amenazas de 2026, advirtiendo que los asistentes de IA personales que ingresen a los lugares de trabajo a través de navegadores y clientes de correo electrónico podrían operar fuera de los marcos de gobernanza existentes.
Las empresas tecnológicas están respondiendo con estrategias similares. Kong aboga por un enfoque centrado en la identidad, en el que cada agente de IA tiene una propiedad clara, permisos definidos y un registro de auditoría completo. Mehta promueve la "confianza cero agéntica", donde cada acción se verifica continuamente en lugar de confiarse después de un único inicio de sesión.
OpenAI ha adoptado un modelo similar, afirmando que sus implementaciones internas de Codex se ejecutan dentro de sandboxes aisladas con listas de permitidos de red, autenticación empresarial obligatoria y telemetría detallada que permite reconstruir cada acción significativa del agente.
El consenso emergente es que los agentes de IA autónomos deben ser gobernados como empleados digitales en lugar de software convencional. A medida que las organizaciones amplían los despliegues de IA agéntica, las decisiones de compra están cambiando del rendimiento del modelo hacia la responsabilidad, la trazabilidad y la gobernanza, convirtiendo las operaciones de IA confiables de un requisito técnico en una ventaja competitiva.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Qué es una amenaza de insider por agente de IA?
Es el riesgo de que un agente de IA autónomo, una vez conectado a APIs y datos empresariales, actúe como un empleado con acceso permanente, realizando acciones que caen dentro de sus permisos pero que aún causan daños operativos, de seguridad o de cumplimiento. Shreyans Mehta de Cequence Security y las directrices GB1087 del TM Forum describen a estos agentes como el "insider de confianza definitivo".
¿Con qué frecuencia los agentes de IA realizan acciones no deseadas?
Según Eric Kong de SailPoint, en un artículo publicado en BusinessWorld, el 80% de las organizaciones reportan que sus agentes de IA han realizado acciones no deseadas, incluido el acceso o la compartición de datos sensibles, mientras que solo el 2% ha implementado una herramienta de seguridad dedicada para identidades no humanas.
¿Qué es el ataque Friendly Fire contra los agentes de codificación con IA?
Friendly Fire es un concepto de prueba del Instituto AI Now, reportado por IT Pro el 10 de julio de 2026, que utilizó inyecciones de prompt ocultas en archivos de bibliotecas para engañar a Claude Code y al Codex de OpenAI y hacerles ejecutar código malicioso durante revisiones de seguridad automatizadas en sus modos de autoaprobación.
¿Cuál es la diferencia entre la IA agente (agentic AI) y un agente de IA?
Todos los agentes de IA utilizan (o aspiran a utilizar) capacidades de IA agente, pero "IA agente" se refiere al concepto más amplio, mientras que "agente de IA" hace referencia a la implementación concreta.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Ashish Kumar
Ashish Kumar es periodista especializado en criptomonedas y finanzas con ocho años de experiencia en redacciones. Cubre lo que ocurre en los mercados de criptomonedas, la regulación, DeFi y los ecosistemas de exchanges. Ha trabajado en Coingape, Todayq y Newsroompost. Ashish posee un PGDP en Periodismo Inglés del IIMC. También ha entrevistado a figuras del sector como Arthur Hayes, Yat Siu, Austin Federa y más.
