Una de cada tres compañías en el Reino Unido se preocupa por la seguridad de sus datos cuando utilizan modelos de idiomas grandes (LLM) porque han evolucionado de asistentes que responden a comandos o preguntas en sistemasdent que actúan sin intervención humana constante.
Como resultado, estas organizaciones dudan en incorporar completamente a los agentes de IA en sus sistemas de operaciones porque temen perder el control de sus datos y seguridad a las máquinas que pueden "pensar por sí mismos".
El gobierno del Reino Unido está tomando medidas para abordar estos desafíos. El ministro de la Oficina del Gabinete, Pat McFadden, anunció la desclasificación de una evaluación de inteligencia que indica que AI aumentará las amenazas cibernéticas en los próximos años.
En 2024, el NCSC recibió casi 2,000 informes de ataques cibernéticos, con casi 90 considerados "significativos" y 12 en "el extremo superior de la gravedad". Esto fue tres veces el número de ataques severos en comparación con el año anterior.
Las empresas del Reino Unido crían banderas rojas sobre la seguridad de los datos en LLMS
Las empresas en el Reino Unido deben cumplir con regulaciones estrictas que protegen los datos de las personas y evitan su mal uso, como la Ley de Protección de Datos y la Regulación General de Protección de Datos (GDPR) de la UE.
Las empresas que violan estas leyes corren el riesgo de acciones legales y dañan su reputación, por lo que están repensando sus estrategias de LLM. La IA podría revelar información privada o generar resultados engañosos sin una supervisión humana cuidadosa o una solicitud precisa.
Inicialmente, las herramientas de IA como los chatbots proporcionaron respuestas fijas, mientras que los termostatos inteligentes simplemente cambiaron la temperatura siguiendo reglas simples y sin pensar o aprender de nuevos datos, acciones anteriores o los resultados de sus decisiones. Sin embargo, los agentes de IA hoy usan LLM para aprender de los datos, cambiar sus acciones en función de la nueva información y resolver diferentes problemas razonando como un ser humano.
Pero eso es solo una fracción de una preocupación mucho mayor, ya que las personas también pueden incitar al agente a manejar una tarea, y la dividirá en actividades más pequeñas, abordará cada una individualmente y luego evaluará los resultados. Además, algunos agentes pueden asociarse para manejar una tarea compleja, por la cual uno de ellos trabaja en el trabajo, mientras que el otro verifica los resultados para mejorar el resultado.
A pesar de que este crecimiento ayuda a las empresas a automatizar las operaciones y reduce el tiempo que los equipos humanos habrían usado, también es una amenaza porque cuantas más decisiones tomen estos agentes por su cuenta, más difícil será para nosotros comprender, predecir o controlar lo que están haciendo. Del mismo modo, las consecuencias de sus errores pueden crecer exponencialmente porque estos agentes de IA actúan sin detenerse para la entrada humana.
Las empresas adoptan a los agentes de IA con cautela en todos los departamentos
Muchas compañías en el Reino Unido usan agentes de IA en sus operaciones diarias, con departamentos como el servicio al cliente, los recursos humanos (recursos humanos) y las pruebas de marketing de las herramientas lentamente y los monitorean muy bien.
Un buen ejemplo de negocios es Pets at Home, que creó un agente de IA para su personal veterinario para proporcionar respuestas rápidas y apoyo durante los chequeos de mascotas, mostrando cuánto los agentes de IA siguen siendo útiles para pequeños roles en trabajos reales.
Actualmente, la mayoría de los sistemas de IA de agentes necesitan personas para guiarlos, verificar su trabajo y corregir errores porque no están listos para reemplazar a los humanos por completo sin supervisión. Sin embargo, el futuro puede requerir que las empresas tomen decisiones difíciles que les permitan incorporar agentes de IA en los sistemas, pero también mantener el control.
Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar
