O CEO da Okta alerta para os riscos de segurança da IA

O CEO da Okta, Todd McKinnon, está alertando sobre os problemas de segurança da inteligência artificial à medida que ela passa de modelos detronpara uso em situações reais. Ele enfatizou fortemente a necessidade urgente de sistemas de segurança baseados emdentque possam controlar o acesso dos agentes de IA.

Em uma entrevista recente com Jim Cramer, da CNBC, McKinnon enfatizou que, à medida que os agentes de IA passam de protótipos para ambientes de produção, eles introduzem novos desafios de segurança cibernética que as organizações devem abordar com urgência.

Os agentes de IA agora trabalham em sistemas reais e devem ter acesso seguro e controlado

McKinnon aconselhou as empresas que utilizam agentes de IA em ambientes de negócios reais a tratarem os sistemas como colegas de trabalho. Ele explica que a implementação da IA ​​em "produção" dá a esses agentes acesso real a sistemas ativos que contêm informações privadas de clientes, arquivos internos e dados comerciais. 

Isso acarreta grandes riscos de segurança que as empresas não podem se dar ao luxo de ignorar.

McKinnon alerta que os sistemas de IA agora podem agir de formadente tomar decisões não supervisionadas, o que pode levar a acessos não autorizados, vazamentos de dados ou usodentacidental de informações. Ele aconselha que a única maneira de lidar com esses riscos com segurança é usando sistemas de monitoramento que verifiquem quem ou o que está tentando acessar os dados. Esses sistemas só permitem o acesso se o indivíduo ou agente de IA for confiável, verificado e tiver permissão.

McKinnon afirma que o sistema de gerenciamento dedentda Okta permite que as empresas gerenciem, trace controlem o acesso de todos os tipos de usuários, incluindo agentes de IA. 

A Okta continua cautelosa com suas previsões mesmo após divulgar resultados financeirostron

A Okta reportou lucros e receitas melhores do que o esperado para o trimestre, mas não elevou sua previsão de receita para os próximos trimestres. Em vez disso, a Okta manteve uma perspectiva cautelosa e conservadora, o que fez com que as ações da empresa caíssem mais de 11% no pregão estendido.

McKinnon afirmou que é difícil planejar o crescimento futuro com total confiança devido ao clima econômico global imprevisível. 

Ele afirmou que a liderança da Okta manterá os pés no chão, planejará com cuidado e protegerá a posição da empresa, em vez de perseguir metas de curto prazo de forma muito agressiva. 

Dessa forma, a Okta se adaptará quando as condições de mercado em setores onde os orçamentos dos clientes e os ciclos de investimento em tecnologia estão em constante mudança se alterarem.

McKinnon também salientou que os investidores podem sentir-se frustrados quando empresas como a Okta não aceleram imediatamente o crescimento após apresentarem resultadostron. 

Todd afirmou que as empresas devem evitar erros ao construir sistemas dedentseguros e escaláveis ​​que funcionem tanto com usuários humanos quanto com sistemas de IA. 

As empresas de inteligência artificial foram instadas a replicar os cálculos de segurança que fundamentaram de Robert Oppenheimer antes de lançarem sistemas onipotentes.

Max Tegmark, uma das principais vozes em segurança da IA, disse que realizou cálculos semelhantes aos do físico americano Arthur Compton antes do teste Trinity e encontrou uma probabilidade de 90% de que uma IA altamente avançada representasse uma ameaça existencial.

McKinnon também explicou que forçar um crescimento muito rápido dificultará o suporte adequado a novos clientes. Ainda assim, ele demonstrou entusiasmo com o futuro da empresa e enfatizou que paciência e disciplina são essenciais para atron. A Okta está pensando além do próximo trimestre e se preparando para liderar um futuro onde inteligência artificial e gerenciamento seguro dedentcaminharão juntos.