Le PDG d'Okta met en garde contre les risques liés à la sécurité de l'IA

Todd McKinnon, PDG d'Okta, met en garde contre les problèmes de sécurité liés à l'intelligence artificielle, qui passe des modèles detronà une utilisation en situation réelle. Il a insisté sur l'urgence de mettre en place des systèmes de sécurité basés sur l'dent, capables de contrôler les données auxquelles les agents d'IA peuvent accéder.

Dans une récente interview accordée à Jim Cramer de CNBC, McKinnon a souligné que, à mesure que les agents d'IA passent des prototypes aux environnements de production, ils introduisent de nouveaux défis en matière de cybersécurité auxquels les organisations doivent s'attaquer de toute urgence.

Les agents d'IA travaillent désormais dans des systèmes réels et doivent avoir un accès sécurisé et contrôlé

McKinnon a conseillé aux entreprises utilisant des agents d'IA en situation réelle de considérer ces systèmes comme des collègues. Il explique que le passage de l'IA en production confère à ces agents un accès réel aux systèmes actifs contenant des informations confidentielles sur les clients, des fichiers internes et des données commerciales. 

Cela comporte des risques de sécurité importants que les entreprises ne peuvent se permettre d'ignorer.

McKinnon met en garde contre le risque que les systèmes d'IA agissent désormais de manièredentet prennent des décisions non supervisées, ce qui pourrait entraîner des accès non autorisés, des fuites de données ou une utilisationdentaccidentelle des informations. Il recommande, pour gérer ces risques en toute sécurité, d'utiliser des systèmes de surveillance qui vérifient l'identité de toute personne ou entité tentant d'accéder aux données. Ces systèmes n'autorisent l'accès que si la personne ou l'agent d'IA concerné est digne de confiance, authentifiée et autorisée.

McKinnon affirme que la gestion desdentd'Okta permet aux entreprises de gérer, tracet de contrôler l'accès de tous les types d'utilisateurs, y compris les agents IA. 

Okta reste prudente dans ses prévisions même après avoir annoncé detronrésultats

Okta a publié des résultats et un chiffre d'affaires supérieurs aux attentes pour le trimestre, mais n'a pas relevé ses prévisions de chiffre d'affaires pour les trimestres à venir. Au contraire, Okta a maintenu des perspectives prudentes et conservatrices, ce qui a entraîné une chute de plus de 11 % du cours de son action lors des échanges après la clôture.

McKinnon a déclaré qu'il est difficile de planifier la croissance future avec une confiance totale en raison du contexte économique mondial imprévisible. 

Il a déclaré que la direction d'Okta garderait les pieds sur terre, planifierait avec soin et protégerait la position de l'entreprise plutôt que de poursuivre des objectifs à court terme de manière trop agressive. 

Ainsi, Okta pourra s'adapter aux fluctuations du marché dans les secteurs où les budgets des clients et les cycles d'investissement technologique sont en constante évolution.

McKinnon a également souligné que les investisseurs peuvent se sentir frustrés lorsque des entreprises comme Okta n'accélèrent pas immédiatement leur croissance après avoir publié detronrésultats. 

Todd a déclaré que les entreprises doivent éviter les erreurs lors de la conception de systèmes d'dentsécurisés et évolutifs, fonctionnant aussi bien pour les utilisateurs humains que pour les systèmes d'IA. 

Les entreprises spécialisées dans l'intelligence artificielle ont été invitées à reproduire les calculs de sécurité qui sous-tendent de Robert Oppenheimer avant de déployer des systèmes aussi puissants.

Max Tegmark, une figure de proue de la sécurité de l'IA, a déclaré avoir effectué des calculs similaires à ceux du physicien américain Arthur Compton avant le test Trinity et avoir constaté une probabilité de 90 % qu'une IA très avancée représente une menace existentielle.

McKinnon a également expliqué qu'une croissance trop rapide compliquerait la prise en charge des nouveaux clients. Il a néanmoins exprimé son enthousiasme quant à l'avenir de l'entreprise et souligné que la patience et la discipline sonttronréussite. Okta se projette au-delà du prochain trimestre et se prépare à devenir un acteur majeur dans un avenir où l'IA et la gestion sécurisée de l'dentseront indissociables.