El CEO de Okta advierte sobre los riesgos de seguridad de la IA

El CEO de Okta, Todd McKinnon, está advirtiendo sobre los problemas de seguridad con la inteligencia artificial a medida que pasa de modelos de prueba a ser utilizada en situaciones reales. Enfatizó fuertemente la necesidad urgente de sistemas de seguridad basados en identidad que puedan controlar a qué pueden acceder los agentes de IA.

En una entrevista reciente con Jim Cramer de CNBC, McKinnon enfatizó que a medida que los agentes de IA transicionan de prototipos a entornos de producción, introducen nuevos desafíos de ciberseguridad que las organizaciones deben abordar urgentemente.

Los agentes de IA ahora trabajan en sistemas reales y deben tener un acceso seguro y controlado

McKinnon dijo a las empresas que utilizan agentes de IA en entornos comerciales reales que traten los sistemas como compañeros de trabajo. Explica que mover la IA a "producción" da a estos agentes acceso real a sistemas en vivo que contienen información privada de clientes, archivos internos y datos empresariales. 

Esto conlleva grandes riesgos de seguridad que las empresas no pueden permitirse ignorar.

McKinnon advierte que los sistemas de IA ahora pueden actuar de forma independiente y tomar decisiones sin supervisión que podrían llevar a accesos no autorizados, filtraciones de datos o uso accidental de información. Él aconseja que la única forma de manejar estos riesgos de manera segura es utilizando sistemas de monitoreo que verifiquen quién o qué está intentando acceder a los datos. Estos sistemas solo permiten el acceso si ese individuo o agente de IA es de confianza, verificado y tiene permiso.

McKinnon dice que la gestión de identidades de Okta permite a las empresas gestionar, rastrear y controlar el acceso para todo tipo de usuarios, incluidos los agentes de IA. 

Okta se mantiene cauteloso con sus previsiones incluso después de reportar ganancias sólidas

Okta reportó ganancias y ingresos mejores de lo esperado para el trimestre, pero no aumentó su previsión de ingresos para los próximos trimestres. En cambio, Okta mantuvo una perspectiva cautelosa y conservadora que hizo caer las acciones de la empresa en más del 11% durante el comercio después del cierre.

McKinnon dijo que es difícil planificar el crecimiento futuro con total confianza debido al clima económico global impredecible. 

Dijo que la dirección de Okta se mantendrá firme, planificará cuidadosamente y protegerá la posición de la empresa en lugar de perseguir objetivos a corto plazo de manera demasiado agresiva. 

De esta manera, Okta se ajustará cuando las condiciones del mercado en las industrias donde los presupuestos de los clientes y los ciclos de inversión tecnológica continúan cambiando cambien.

McKinnon también señaló que los inversores pueden sentirse frustrados cuando empresas como Okta no aceleran inmediatamente el crecimiento después de reportar resultados sólidos. 

Todd dijo que las empresas deben evitar errores al construir sistemas de identidad seguros y escalables que funcionen tanto para usuarios humanos como para sistemas de IA. 

Se ha instado a las empresas de inteligencia artificial a replicar los cálculos de seguridad que sustentaron la primera prueba nuclear de Robert Oppenheimer antes de liberar sistemas todopoderosos.

Max Tegmark, una voz líder en la seguridad de la IA, dijo que había realizado cálculos similares a los del físico estadounidense Arthur Compton antes de la prueba Trinity y había encontrado una probabilidad del 90% de que una IA altamente avanzada representara una amenaza existencial.

McKinnon también explicóque forzar el crecimiento demasiado rápido hará que sea difícil para una empresa apoyar adecuadamente a los nuevos clientes. Aun así, señaló su entusiasmo sobre hacia dónde se dirige la empresa y enfatizó que la paciencia y la disciplina mantienen fuerte a una empresa. Okta está pensando más allá del próximo trimestre y se está preparando para liderar en un futuro donde la IA y la gestión segura de identidades irán de la mano.