Le PDG d’Okta met en garde contre les risques de sécurité de l’IA

Le PDG d’Okta, Todd McKinnon, met en garde contre les problèmes de sécurité liés à l’intelligence artificielle alors qu’elle passe de modèles de test à une utilisation dans des situations réelles. Il a fermement souligné le besoin urgent de systèmes de sécurité basés sur l’identité capables de contrôler ce à quoi les agents IA peuvent accéder.

Lors d’une récente interview avec Jim Cramer de CNBC, McKinnon a souligné qu’à mesure que les agents IA passent de prototypes à des environnements de production, ils introduisent de nouveaux défis de cybersécurité que les organisations doivent traiter urgemment.

Les agents IA fonctionnent désormais dans des systèmes réels et doivent avoir un accès sûr et contrôlé

McKinnon a conseillé aux entreprises utilisant des agents IA dans des contextes commerciaux réels de traiter les systèmes comme des collègues. Il explique que le passage de l’IA en « production » donne à ces agents un accès réel aux systèmes en direct qui contiennent des informations clients privées, des fichiers internes et des données commerciales. 

Cela s’accompagne de grands risques de sécurité que les entreprises ne peuvent pas ignorer.

McKinnon met en garde en disant que les systèmes IA peuvent désormais agir de manière indépendante et prendre des décisions non supervisées qui pourraient entraîner un accès non autorisé, des fuites de données ou une utilisation accidentelle d’informations. Il conseille que la seule façon de gérer ces risques en toute sécurité est d’utiliser des systèmes de surveillance qui vérifient qui ou quoi essaie d’accéder aux données. Ces systèmes n’autorisent l’accès que si cet individu ou agent IA est de confiance, vérifié et autorisé.

McKinnon dit que la gestion des identités d’Okta permet aux entreprises de gérer, suivre et contrôler l’accès pour tous les types d’utilisateurs, y compris les agents IA. 

Okta reste prudent dans ses prévisions même après avoir annoncé de solides résultats

Okta a annoncé des résultats et des revenus supérieurs aux attentes pour le trimestre, mais n’a pas relevé ses prévisions de revenus pour les trimestres à venir. Au lieu de cela, Okta a maintenu une perspective prudente et conservatrice qui a fait chuter les actions de l’entreprise de plus de 11 % lors des échanges après la clôture.

McKinnon a déclaré qu’il est difficile de planifier la croissance future avec une pleine confiance en raison de l’imprévisibilité du climat économique mondial. 

Il a déclaré que la direction d’Okta restera ancrée, planifiera soigneusement et protégera la position de l’entreprise plutôt que de poursuivre agressivement des objectifs à court terme. 

De cette façon, Okta s’adaptera lorsque les conditions du marché dans les industries où les budgets des clients et les cycles d’investissement technologique continuent de changer évolueront.

McKinnon a également souligné que les investisseurs peuvent se sentir frustrés lorsque des entreprises comme Okta ne accélèrent pas immédiatement la croissance après avoir annoncé de solides résultats. 

Todd a déclaré que les entreprises doivent éviter les erreurs lors de la construction de systèmes d’identité sécurisés et évolutifs qui fonctionnent à la fois pour les utilisateurs humains et les systèmes IA. 

Les entreprises d’intelligence artificielle ont été exhortées à reproduire les calculs de sécurité sous-tendant le premier essai nucléaire de Robert Oppenheimer avant de libérer des systèmes tout-puissants.

Max Tegmark, une voix de premier plan en matière de sécurité de l’IA, a déclaré qu’il avait effectué des calculs similaires à ceux du physicien américain Arthur Compton avant l’essai Trinity et avait trouvé une probabilité de 90 % qu’une IA hautement avancée pose une menace existentielle.

McKinnon a également expliqué que forcer une croissance trop rapidement rendrait difficile pour une entreprise de soutenir correctement ses nouveaux clients. Néanmoins, il a noté son enthousiasme quant à l’orientation de l’entreprise et a souligné que la patience et la discipline maintiennent une entreprise forte. Okta pense au-delà du prochain trimestre et se prépare à diriger dans un avenir où l’IA et la gestion sécurisée des identités iront de pair.