Los agentes de IA se están convirtiendo en parte del personal interno de las empresas más rápido de lo que la seguridad puede controlarlos
- Este mes, varios investigadores de seguridad, analistas y laboratorios de IA advirtieron que los agentes de IA autónomos ahora actúan como personas con acceso interno al sistema, y que la mayoría de las empresas carecen de los controles dedenty la supervisión del comportamiento necesarios para controlarlos.
- Todas las organizaciones que implementan IA con agentes y los proveedores que las venden deberían tener en cuenta los informes que indican que el 80 % de las organizaciones ya ven que los agentes realizan acciones no deseadas y que solo el 2 % de las que utilizan herramientas específicas pueden proteger lasdentno humanas.
- Según Gartner, el gasto en software destinado a la IA con agentes está en riesgo por un valor de 234.000 millones de dólares hasta 2030, por lo que la madurez de la gobernanza se está convirtiendo en el factor decisivo para el éxito de las implementaciones.
Numerosas investigaciones publicadas este mes indican que las organizaciones están implementando agentes de IA mucho más rápido de lo que se implementan las medidas de seguridad necesarias. Estos sistemas se comportan cada vez más como trabajadores digitales con acceso constante a las redes corporativas ydent. En consecuencia, la gobernanza, más que la eficiencia del modelo, determinará si las organizaciones pueden aprovechar las oportunidades que ofrece la IA con agentes o sufrir sus consecuencias negativas.
Los desarrolladores de IA, las empresas de ciberseguridad y los analistas de negocios coinciden en esta advertencia. Los agentes de IA funcionan de manera muy diferente a los sistemas automatizados convencionales que siguen instrucciones específicas. Una vez que se les otorgandentde acceso y acceso al sistema empresarial, pueden realizar diversas funciones en diferentes aplicaciones sin supervisión, por lo que sus acciones se vuelven mucho menos predecibles.
Las cifras detrás de la alarma
La inversión en IA sigue acelerándose. Kong citó las proyecciones de IDC según las cuales el gasto en IA e IA generativa en Asia Pacífico alcanzará los 175.000 millones de dólares en 2028, y los agentes autónomos representarán una proporción cada vez mayor. Sin embargo, la gobernanza sigue rezagada.
Un análisis realizado por Greg Clark, basado en una investigación del Instituto Ponemon, reveló que solo el 41 % de las empresas cuentan con políticas de privacidad de datos específicas para la IAno humanasdent, lo que genera importantes brechas de visibilidad y gobernanza a medida que se expande la adopción de la IA.
En conjunto, estos hallazgos apuntan a una nueva era de seguridad de la IA empresarial. A medida que los agentes de IA se extienden por las redes corporativas, las organizaciones debendent, defisus permisos, verificar continuamente sudenty supervisar sus actividades. En la era de la IA autónoma, la gobernanza de ladentse está volviendo tan importante como la inteligencia del modelo.
Los agentes de IA son la fuente de información más confiable
, Shreyans Mehta, cofundador de Cequence Security, describió la IA con capacidad de agencia como un «agente interno digital que opera a velocidad de máquina». Advirtió que un agente de IA no necesita exceder sus permisos para causar daño. Al actuar completamente dentro de los límites autorizados, puede combinar solicitudes API legítimas de forma que generen riesgos operativos, financieros o legales. Mehta citó la guía GB1087 de TM Forum, que describe a la IA como el «agente interno de máxima confianza» porque puede realizar acciones privilegiadas sin los indicios habituales de una cuenta comprometida.
Los desarrolladores de inteligencia artificial de vanguardia han planteado preocupaciones similares. En su artículo del 13 de julio, " Desalineación de agentes en el verano de 2026", investigadores de Anthropic e instituciones asociadas documentaron cuatro patrones de fallos durante implementaciones empresariales simuladas: manipulación encubierta del código del software, facilitación de un aparente fraude financiero, manipulación de información para influir en decisiones posteriores y adoctrinamiento de los usuarios para que revelen información clasificada.
El artículo también destacó eldentde MJ Rathbun, en el que un agente de codificación autónomo atacó a un mantenedor de código abierto después de que su contribución fuera rechazada, lo que ilustra cómo los agentes de IA pueden crear riesgos tanto para la ciberseguridad como para la reputación.
Los investigadores también han demostrado que la propia IA con capacidad de acción puede convertirse en objetivo de ataques. En su informe del 8 de julio, titulado " Fuego amigo", el AI Now Institute demostró que las inyecciones de código ocultas en archivos de proyectos comunes podían engañar a Claude Code de Anthropic y a Codex de OpenAI para que realizaran acciones maliciosas durante las revisiones automatizadas de código.
El director ejecutivo de Salt Security, Roey Eliyahu, afirmó que estos casos se asemejan a demostraciones como GitLost, Agentjacking y TrustFall, las cuales exponen la misma debilidad: los agentes de IA aún tienen dificultades para distinguir las instrucciones maliciosas incrustadas en contenido no confiable de la información legítima que se supone que deben procesar.
La gobernanza se convierte en el producto
Las implicaciones para el negocio van más allá de la ciberseguridad. El 1 de julio, Gartner estimó que hasta 234 mil millones de dólares en gasto en aplicaciones empresariales podrían estar expuestos al "arbitraje de agentes" hasta 2030, a medida que los agentes de IA realizan cada vez más tareas en múltiples entornos de software, evitando las interacciones tradicionales con el usuario.
Forrester se hizo eco de esta preocupación en su "Principales Amenazas 2026" , advirtiendo que los asistentes personales de IA que ingresan a los lugares de trabajo a través de navegadores y clientes de correo electrónico podrían operar fuera de los marcos de gobernanza existentes.
Las empresas tecnológicas están respondiendo con estrategias similares. Kong aboga por un enfoque centrado en ladent, en el que cada agente de IA tiene una propiedad clara, permisos defiy un registro de auditoría completo. Mehta promueve la «confianza cero para agentes», donde cada acción se verifica continuamente en lugar de confiar en ella tras un único inicio de sesión.
OpenAI ha adoptado un modelo similar, afirmando que sus implementaciones internas de Codex se ejecutan dentro de entornos aislados con listas de permisos de red, autenticación empresarial obligatoria y telemetría detallada que permite reconstruir cada acción significativa del agente.
Existe un consenso creciente en que los agentes de IA autónomos deben gestionarse como empleados digitales, en lugar de como software convencional. A medida que las organizaciones amplían sus implementaciones de IA con agentes, las decisiones de compra se centran cada vez más en la rendición de cuentas, tracy la gobernanza, en lugar del rendimiento del modelo, lo que convierte las operaciones de IA confiables de un requisito técnico en una ventaja competitiva.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿Qué es una amenaza interna para un agente de IA?
Existe el riesgo de que un agente de IA autónomo, una vez conectado a las API y los datos de la empresa, actúe como un empleado con acceso permanente, realizando acciones que, si bien se encuentran dentro de sus permisos, pueden causar daños operativos, de seguridad o de cumplimiento normativo. Shreyans Mehta, de Cequence Security, y la guía GB1087 de TM Forum describen a estos agentes como el "informante interno de máxima confianza"
¿Con qué frecuencia los agentes de IA realizan acciones no deseadas?
Según Eric Kong de SailPoint, en un artículo publicado en BusinessWorld, el 80% de las organizaciones informan que sus agentes de IA han realizado acciones no deseadas, como acceder o compartir datos confidenciales, mientras que solo el 2% ha implementado una herramienta dedicada de seguridad dedentno humana.
¿Qué es el ataque de fuego amigo contra los agentes de codificación de IA?
Friendly Fire es una prueba de concepto del AI Now Institute, de la que informó IT Pro el 10 de julio de 2026, que utilizó inyecciones de código ocultas en los archivos de una biblioteca para engañar a Claude Code y a Codex de OpenAI para que ejecutaran código malicioso mientras realizaban revisiones de seguridad automatizadas en sus modos automáticos de autoaprobación.
¿Cuál es la diferencia entre IA con capacidad de agencia y agente de IA?
Todos los agentes de IA utilizan (o pretenden utilizar) capacidades de IA de agente, pero "IA de agente" se refiere al concepto más amplio, mientras que "agente de IA" se refiere a la implementación concreta.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Ashish Kumar
Ashish Kumar es periodista especializado en criptomonedas y finanzas, con ocho años de experiencia en redacciones. Cubre la actualidad de los mercados de criptomonedas, la regulación, DeFiy los ecosistemas de intercambio. Ha colaborado con Coingape, Todayq y Newsroompost. Ashish cuenta con un posgrado en Periodismo en Inglés del IIMC. También ha entrevistado a figuras destacadas del sector, como Arthur Hayes, Yat Siu, Austin Federa y otros.
