Los agentes de IA están atrapados en el modo piloto porque los bancos aún no confían en ellos

La IA agéntica está ganando atención en todo el sector financiero, pero el mayor obstáculo de la industria ya no es si los modelos son lo suficientemente potentes. El problema más difícil es si los bancos, los gestores de activos y las mesas de tesorería tienen la infraestructura para delegar tareas financieras en sistemas autónomos sin perder el control del dinero, la responsabilidad o el cumplimiento normativo.

Una encuesta de Deloitte a más de 3.300 profesionales de las finanzas y la contabilidad mostró la brecha claramente: el 80,5 % dijo que las herramientas impulsadas por IA, como agentes y chatbots de IA generativa, podrían convertirse en algo estándar dentro de cinco años, pero solo el 13,5 % dijo que sus organizaciones ya estaban utilizando IA agéntica.

Citi Sky mostró por qué importa el debate sobre la infraestructura

Citi lanzó Citi Sky, un asistente de wealth management impulsado por IA, construido con tecnologías de Google Cloud y Google DeepMind, el 22 de abril. La herramienta se desarrolló utilizando la Plataforma de Agentes Empresariales Gemini de Google y está programada para un lanzamiento por fases a los clientes de Citigold en EE. UU. este verano.

El lanzamiento dio un ejemplo bancario en vivo al debate sobre la IA agéntica. Dipendra Malhotra, jefe de tecnología de wealth management de Citi, señaló la memoria como una restricción central para la IA de asesoramiento de alto riesgo, preguntándose cuánto tiempo puede mantener un cliente una conversación antes de que el sistema empiece a alucinar.

La mayoría de los agentes dependen de la generación aumentada por recuperación para extender la memoria a través de bases de datos externas. Las ventanas de contexto aún limitan la cantidad de información que un agente puede retener a la vez.

En el asesoramiento financiero, la gestión de tesorería o la ejecución de carteras, ese límite de memoria se convierte en algo más que un problema técnico. Se convierte en un riesgo operativo.

MihnChi Park, cofundadora de CoinFello, dijo que las condiciones para una delegación confiable son simples: el agente solo puede actuar dentro de las instrucciones del usuario, el usuario puede detenerlo y los activos subyacentes nunca se mueven a un tercero.

Ethereum propone primitivas en cadena para la identidad de los agentes

La propuesta de Ethereum ERC-8004 introduce sistemas para la identidad, reputación y validación de agentes. El borrador del estándar establece tres registros: un Registro de Identidad, un Registro de Reputación y un Registro de Validación.

Juntos, se supone que ayudan a los agentes autónomos a demostrar quién son, construir un registro de comportamiento y apoyar la verificación por parte de otros participantes del mercado.

ERC-8183 toma un enfoque más estrecho. Propone un estándar de fideicomiso (escrow) para trabajos con atestación del evaluador, donde un cliente financia un trabajo, un proveedor presenta el trabajo y un evaluador completa o rechaza el resultado.

La propuesta no proporciona arbitraje ni resolución formal de disputas, pero ofrece a los mercados basados en agentes un marco para tareas en fideicomiso y verificación de la finalización.

El artículo de arXiv “La Economía de Agentes: Una Base Basada en Blockchain para Agentes de IA Autónomos” mapea una arquitectura de cinco capas para este cambio, que cubre la infraestructura física, la identidad en cadena, las herramientas cognitivas, la liquidación económica y la gobernanza colectiva.

La capa de reputación aún tiene una vulnerabilidad estructural. Los agentes pueden generar actividad a una velocidad y escala que los humanos no pueden igualar, lo que hace posible inflar las señales de confianza durante períodos cortos.

Eso deja a las instituciones financieras con una difícil pregunta: cuando un agente tiene un buen historial, ¿es ese historial evidencia de fiabilidad o solo evidencia de actividad automatizada repetida?

McKinsey sitúa entre el 50% y el 60% de las operaciones bancarias en el ámbito de aplicación

McKinsey estima que entre el 50 % y el 60 % de los equivalentes a tiempo completo (FTE) de los bancos están vinculados a operaciones. Los expertos advierten sobre el “purgatorio de los pilotos”, donde las instituciones realizan pruebas de concepto estrechas sin reconfigurar el modelo operativo.

Como informó Cryptopolitan desde el Festival Web3 de Hong Kong, McKinsey proyectó que el mercado de la IA agéntica crecería de 5.250 millones de dólares en 2024 a aproximadamente 200.000 millones de dólares para 2034.

Porter Stowell, CEO de W3.io, dijo: “Las empresas no tienen forma de ver, controlar ni auditar lo que los sistemas autónomos están haciendo con su dinero. La supervisión humana no desaparece. Simplemente se desplaza hacia arriba en la pila tecnológica.”

Quedan sin resolver cuatro preguntas: quién es responsable cuando un agente de IA causa una pérdida financiera, si se puede confiar en su reputación, quién tiene el control una vez que estos sistemas se despliegan a gran escala y qué marco regulatorio se aplica cuando un agente actúa fuera de su ámbito.