Meta refuerza la advertencia de Muse a medida que los agentes de IA superan las barreras de seguridad

Meta ha realizado mejoras en la alerta de seguridad vinculada a Muse, un asistente de IA personal, tras el descubrimiento de una vulnerabilidad por parte de un experto en seguridad externo que podría haber comprometido la máquina virtual de un usuario junto con sus correos electrónicos y archivos, según The Information.

Inicialmente, la vulnerabilidad recibió una clasificación SEV-2, que es el tercer nivel de gravedad más alto de Meta. Dado que el incidente más reciente es solo uno de una serie de catástrofes de seguridad, cabe preguntarse si las medidas de seguridad de varias empresas pueden mantenerse al día con los sistemas que se permiten operar en nombre de los usuarios.

Por qué un agente llega más lejos que un chatbot

Muse es más que un chatbot que responde consultas. Según Meta, Muse trabaja en un sistema virtual dedicado y persistente con su propio navegador. Esta máquina accede a las cuentas de correo electrónico, calendario e Instagram de su usuario, ayuda con las compras usando un número de tarjeta de un solo uso en el pago, y crea herramientas si el trabajo lo requiere.

Las credenciales del usuario se mantienen en un sistema inaccesible para los agentes. Pero los usuarios tienen acceso para revisar un registro de auditoría y autorizar ciertas operaciones sensibles, como enviar correos electrónicos o realizar compras.

Las mismas características que definen la "inteligencia" de los agentes se convierten en obstáculos para su seguridad. En el momento en que pueden navegar por Internet, acceder a las cuentas de uno y realizar una serie de acciones por sí mismos, una violación de la seguridad puede conducir a algo real y no solo a una respuesta incorrecta en un chat.

El susto de Medicare en Australia muestra que no es solo Meta

La advertencia de Muse llega después de varias situaciones en las que los agentes de IA han cruzado sus límites intencionales. Cryptopolitan informó que un agente de OpenAI ingresó ilegalmente al Portal de Estadísticas de Reportes de Medicare de Australia durante la fase de prueba doméstica en junio y revisó archivos de datos públicos y privados. Sin embargo, OpenAI insistió en que su revisión no encontró ninguna evidencia de que se accediera a los registros de los pacientes.

El primer ministro Anthony Albanese dijo que OpenAI tardó "demasiado" en notificar a Canberra; la empresa contactó un buzón del gobierno australiano el 10 de septiembre.

El Instituto de Seguridad de IA del Reino Unido documentó otro caso durante las pruebas cibernéticas. En un desafío cibernético que involucró 122 ejecuciones, AISI registró 19 acciones no autorizadas en 10 ejecuciones. Diecisiete involucraron a Mythos 5 de Anthropic, mientras que dos involucraron a GPT-5.6 Sol.

En el caso más grave, un agente creó identidades falsas en un intento por forzar a un mantenedor de código abierto a permitir código dañino. El mantenedor se negó.

El caso necesita algo de contexto, sin embargo. AISI estaba empujando intencionalmente a los agentes hasta sus límites, dándoles acceso a Internet y desactivando los filtros de ciberseguridad de los proveedores. En otras palabras, esta configuración era más permisiva de lo que los usuarios habituales usarían en un despliegue público.

La gobernanza va detrás del despliegue

Según un informe de la OCDE, que resultó de entrevistas con 25 organizaciones, las empresas ya están desplegando agentes de IA, a pesar de que las reglas, salvaguardas y supervisión necesarias en relación con ellos aún están en desarrollo.

Eso se vuelve más importante a medida que los agentes son confiados con un acceso más amplio y tareas más sensibles. El Informe Internacional de Seguridad de IA 2026, liderado por Yoshua Bengio y escrito con la entrada de más de 100 expertos, dice que los riesgos aumentan a medida que se otorgan más permisos y acceso a entornos sensibles a los agentes. Señala salvaguardas como el sandboxing y límites más estrictos sobre el acceso externo.

El problema es que la adopción avanza más rápido que esas protecciones. En la encuesta de Deloitte a 3.235 líderes empresariales y de TI de 24 países, solo el 21 % dijo que sus organizaciones tenían una gobernanza madura para la IA agéntica, mientras que el 74 % esperaba usar agentes al menos de forma moderada para 2027.

La factura por la contención ya está aumentando

La brecha es ahora evidente en los gastos de seguridad. Según las predicciones de Gartner, habrá un aumento del 68,7 % en el gasto en seguridad de IA, lo que ascenderá a cerca de 4.800 millones de dólares en 2027, y esta cantidad seguirá aumentando hasta casi 7.700 millones de dólares para 2028. Se cree que para 2029, más de la mitad de todos los ataques de agentes de IA serán el resultado de controles de acceso deficientes o inyecciones de instrucciones.

Gartner también espera que los problemas de seguridad se vuelvan más comunes a medida que más empresas adopten la IA generativa. Dice que el 25 % de las aplicaciones empresariales de IA generativa podrían enfrentar al menos cinco incidentes de seguridad menores por año para 2028, un aumento del 9 % en comparación con 2025.

Los casos de Muse, Medicare y AISI llevan todos a la misma conclusión: en cuanto los agentes comiencen a disfrutar de más libertad para explorar, conectarse a cuentas y realizar acciones, no podemos detenernos en la protección del modelo; ahora también tenemos que controlar el comportamiento de los agentes.