Il CEO di Okta avverte dei rischi di sicurezza dell'AI

Il CEO di Okta Todd McKinnon sta avvertendo dei problemi di sicurezza con l'intelligenza artificiale mentre passa da modelli di test all'uso in situazioni reali. Ha sottolineato fortemente la necessità urgente di sistemi di sicurezza basati sull'identità che possano controllare a cosa possono accedere gli agenti AI.

In una recente intervista con Jim Cramer di CNBC, McKinnon ha sottolineato che mentre gli agenti AI passano da prototipi ad ambienti di produzione, introducono nuove sfide di cybersecurity che le organizzazioni devono affrontare urgentemente.

Gli agenti AI ora funzionano in sistemi reali e devono avere un accesso sicuro e controllato

McKinnon ha detto alle aziende che utilizzano agenti AI in contesti aziendali reali di trattare i sistemi come colleghi di lavoro. Spiega che spostare l'AI in "produzione" dà a questi agenti un accesso reale a sistemi live che contengono informazioni private dei clienti, file interni e dati aziendali. 

Questo comporta grandi rischi di sicurezza che le aziende non possono permettersi di ignorare.

McKinnon avverte che i sistemi AI ora possono agire in modo indipendente e prendere decisioni non supervisionate che potrebbero portare ad accesso non autorizzato, fughe di dati o uso improprio accidentale delle informazioni. Consigli che l'unico modo per gestire questi rischi in modo sicuro è utilizzare sistemi di monitoraggio che controllano chi o cosa sta tentando di accedere ai dati. Questi sistemi consentono l'accesso solo se quell'individuo o agente AI è fidato, verificato e ha il permesso.

McKinnon dice che la gestione dell'identità di Okta permette alle aziende di gestire, tracciare e controllare l'accesso per tutti i tipi di utenti, inclusi gli agenti AI. 

Okta rimane cauto nelle sue previsioni anche dopo aver riportato utili forti

Okta ha riportato utili e ricavi superiori alle aspettative per il trimestre, ma non ha aumentato la previsione dei ricavi per i trimestri successivi. Invece, Okta ha mantenuto una prospettiva cauta e conservativa che ha fatto scendere le azioni dell'azienda di oltre l'11% durante il trading dopo l'orario di chiusura.

McKinnon ha detto che è difficile pianificare la crescita futura con piena fiducia a causa dell'imprevedibile clima economico globale. 

Ha detto che la leadership di Okta rimarrà radicata, pianificherà attentamente e proteggerà la posizione dell'azienda piuttosto che inseguire obiettivi a breve termine in modo troppo aggressivo. 

In questo modo, Okta si adatterà quando le condizioni di mercato nei settori in cui i budget dei clienti e i cicli di investimento tecnologico continuano a cambiare cambieranno.

McKinnon ha anche sottolineato che gli investitori potrebbero sentirsi frustrati quando aziende come Okta non accelerano immediatamente la crescita dopo aver riportato risultati forti. 

Todd ha detto che le aziende devono evitare errori nella costruzione di sistemi di identità sicuri e scalabili che funzionano sia per gli utenti umani che per i sistemi AI. 

Alle aziende di intelligenza artificiale è stato chiesto di replicare i calcoli di sicurezza alla base del primo test nucleare di Robert Oppenheimer prima di rilasciare sistemi onnipotenti.

Max Tegmark, una voce leader nella sicurezza dell'AI, ha detto di aver eseguito calcoli simili a quelli del fisico statunitense Arthur Compton prima del test Trinity e di aver trovato una probabilità del 90% che un'AI altamente avanzata rappresenterebbe una minaccia esistenziale.

McKinnon ha anche spiegatoche forzare la crescita troppo rapidamente renderà difficile per un'azienda supportare correttamente i nuovi clienti. Tuttavia, ha notato la sua eccitazione su dove sta andando l'azienda e ha sottolineato che pazienza e disciplina mantengono forte un'azienda. Okta sta pensando oltre il prossimo trimestre e si sta preparando a guidare in un futuro in cui AI e gestione sicura dell'identità andranno di pari passo.