Un tercio de las empresas del Reino Unido cita la seguridad de los datos como una gran preocupación en la adopción de LLMs

Una de cada tres empresas en el Reino Unido se preocupa por la seguridad de sus datos al usar Modelos de Lenguaje Grande (LLMs) porque han evolucionado de asistentes que responden a comandos o preguntas a sistemas independientes que actúan sin intervención humana constante.

Como resultado, estas organizaciones son reacias a incorporar completamente Agentes de IA en sus sistemas operativos porque temen perder el control de sus datos y seguridad hacia máquinas que pueden ‘pensar por sí mismas’.

El gobierno del Reino Unido está tomando medidas para abordar estos desafíos. El ministro de la Oficina del Gabinete, Pat McFadden, anunció la desclasificación de una evaluación de inteligencia que indica que la IA escalará las ciberamenazas en los próximos años.

En 2024, el NCSC recibió casi 2.000 informes de ciberataques, con casi 90 considerados “significativos” y 12 en “el extremo más alto de severidad”. Esto fue tres veces el número de ataques graves en comparación con el año anterior.

Las empresas del Reino Unido levantan banderas rojas sobre la seguridad de los datos en LLMs

Las empresas en el Reino Unido deben cumplir con estrictas regulaciones que protegen los datos de las personas y previenen su mal uso, como la Ley de Protección de Datos del Reino Unido y el Reglamento General de Protección de Datos (GDPR) de la UE.

Las empresas que rompen estas leyes corren el riesgo de acciones legales y dañar su reputación, por lo que están repensando sus estrategias de LLM. La IA podría revelar información privada o generar resultados engañosos sin una supervisión humana cuidadosa o una indicación precisa. 

Inicialmente, herramientas de IA como los chatbots proporcionaban respuestas fijas, mientras que los termostatos inteligentes solo cambiaban la temperatura siguiendo reglas simples y sin pensar o aprender de nuevos datos, acciones anteriores o los resultados de sus decisiones. Sin embargo, los Agentes de IA hoy en día usan LLMs para aprender de los datos, cambiar sus acciones basándose en nueva información y resolver diferentes problemas razonando como un ser humano. 

Pero eso es solo una fracción de una preocupación mucho mayor, ya que las personas también pueden indicar al agente que maneje una tarea, y lo descompondrá en actividades más pequeñas, abordará cada una individualmente y luego evaluará los resultados. Además, algunos agentes pueden asociarse para manejar una tarea compleja, donde uno de ellos trabaja en el trabajo mientras el otro revisa los resultados para mejorar el resultado. 

Aunque este crecimiento ayuda a las empresas a automatizar operaciones y reduce el tiempo que los equipos humanos habrían utilizado, también es una amenaza porque cuanto más toman decisiones estos agentes por su cuenta, más difícil se vuelve para nosotros entender, predecir o controlar completamente lo que están haciendo. De manera similar, las consecuencias de sus errores pueden crecer exponencialmente porque estos Agentes de IA actúan sin detenerse para obtener la entrada humana. 

Las empresas adoptan agentes de IA con cautela en todos los departamentos

Muchas empresas en el Reino Unido utilizan agentes de IA en sus operaciones diarias, con departamentos como servicio al cliente, recursos humanos (RRHH) y marketing probando las herramientas lentamente y monitoreándolas con atención.

Un buen ejemplo empresarial es Pets at Home, que construyó un agente de IA para su personal veterinario para proporcionar respuestas rápidas y apoyo durante los chequeos de mascotas, mostrando cuánto siguen siendo útiles los agentes de IA para pequeños roles en trabajos reales. 

Actualmente, la mayoría de los sistemas de IA agéntica necesitan que las personas los guíen, verifiquen su trabajo y corrijan errores porque no están listas para reemplazar completamente a los humanos sin supervisión. Sin embargo, el futuro puede requerir que las empresas tomen decisiones difíciles que les permitan incorporar agentes de IA en los sistemas, pero también mantener el control.