El CEO de Okta advierte sobre los riesgos de seguridad de la IA

Todd McKinnon, director ejecutivo de Okta, advierte sobre los problemas de seguridad de la inteligencia artificial a medida que pasa de los modelos de prueba a su uso en situaciones reales. Enfatizótronla urgente necesidad de sistemas de seguridad basados ​​en ladentque puedan controlar el acceso de los agentes de IA.

En una entrevista reciente con Jim Cramer de CNBC, McKinnon hizo hincapié en que, a medida que los agentes de IA pasan de los prototipos a los entornos de producción, introducen nuevos desafíos de ciberseguridad que las organizaciones deben abordar con urgencia.

Los agentes de IA ahora trabajan en sistemas reales y deben tener acceso seguro y controlado

McKinnon recomendó a las empresas que utilizan agentes de IA en entornos empresariales reales que traten a los sistemas como si fueran compañeros de trabajo. Explica que integrar la IA en la producción otorga a estos agentes acceso real a sistemas en funcionamiento que contienen información privada de clientes, archivos internos y datos empresariales. 

Esto conlleva grandes riesgos de seguridad que las empresas no pueden permitirse ignorar.

McKinnon advierte que los sistemas de IA ahora pueden actuar de formadenty tomar decisiones sin supervisión que podrían provocar accesos no autorizados, filtraciones de datos o el usodentde la información. Advierte que la única manera de gestionar estos riesgos de forma segura es mediante sistemas de monitorización que verifiquen quién o qué intenta acceder a los datos. Estos sistemas solo permiten el acceso si la persona o agente de IA es de confianza, está verificado y tiene permiso.

McKinnon dice que la gestión dedentde Okta permite a las empresas administrar, tracy controlar el acceso para todo tipo de usuarios, incluidos los agentes de IA. 

Okta sigue siendo cautelosa con sus previsiones incluso después de informar detronganancias

Okta reportó ganancias e ingresos mejores de lo esperado para el trimestre, pero no aumentó su pronóstico de ingresos para los próximos trimestres. En cambio, mantuvo una perspectiva cautelosa y conservadora que provocó una caída de las acciones de la compañía de más del 11% durante las operaciones fuera de horario.

McKinnon dijo que es difícil planificar el crecimiento futuro con plena confianza debido al impredecible clima económico mundial. 

Dijo que el liderazgo de Okta se mantendrá firme, planificará cuidadosamente y protegerá la posición de la compañía en lugar de perseguir objetivos a corto plazo de manera demasiado agresiva. 

De esta manera, Okta se ajustará cuando cambien las condiciones del mercado en industrias donde los presupuestos de los clientes y los ciclos de inversión tecnológica siguen cambiando.

McKinnon también señaló que los inversores pueden sentirse frustrados cuando empresas como Okta no aceleran inmediatamente el crecimiento después de informar resultadostron. 

Todd dijo que las empresas deben evitar errores al construir sistemas dedentseguros y escalables que funcionen con usuarios humanos y sistemas de IA. 

Se ha instado a las empresas de inteligencia artificial a que repliquen los cálculos de seguridad en los que se basó de Robert Oppenheimer antes de lanzar sistemas todopoderosos.

Max Tegmark, una voz líder en seguridad de IA, dijo que había realizado cálculos similares a los del físico estadounidense Arthur Compton antes de la prueba Trinity y había encontrado una probabilidad del 90% de que una IA altamente avanzada representara una amenaza existencial.

McKinnon también explicó que acelerar demasiado el crecimiento dificultará que una empresa atienda adecuadamente a los nuevos clientes. Aun así, expresó su entusiasmo por el rumbo que está tomando la empresa y enfatizó que la paciencia y la disciplina mantienen a una empresatron. Okta piensa más allá del próximo trimestre y se prepara para liderar un futuro donde la IA y la gestión segura de ladentirán de la mano.