Генеральный директор Okta предупреждает об угрозах безопасности ИИ

Генеральный директор Okta Тодд Маккиннон предупреждает о проблемах безопасности с искусственным интеллектом, поскольку он переходит от тестовых моделей к использованию в реальных ситуациях. Он настоятельно подчеркивает срочную необходимость в системах безопасности на основе идентификации, которые могут контролировать, к чему могут получить доступ агенты ИИ.

В недавнем интервью CNBC Джим Крамер подчеркнул, что по мере того, как агенты ИИ переходят от прототипов к производственным средам, они создают новые проблемы кибербезопасности, которые организации должны срочно решать.

Агенты ИИ теперь работают в реальных системах и должны иметь безопасный, контролируемый доступ

Маккиннон сказал компаниям, использующим агентов ИИ в реальных бизнес-средах, относиться к системам как к коллегам. Он объясняет, что перемещение ИИ в «производство» дает этим агентам реальный доступ к живым системам, которые содержат частную информацию клиентов, внутренние файлы и бизнес-данные. 

Это сопряжено с большими рисками безопасности, которые компании не могут позволить себе игнорировать.

Маккиннон предупреждает, что системы ИИ теперь могут действовать самостоятельно и принимать решения без надзора, что может привести к несанкционированному доступу, утечке данных или случайному misuse информации. Он советует, что единственный способ безопасно справиться с этими рисками — использовать системы мониторинга, которые проверяют, кто или что пытается получить доступ к данным. Эти системы разрешают доступ только в том случае, если это лицо или агент ИИ заслуживает доверия, проверено и имеет разрешение.

Маккиннон говорит, что управление идентификацией в Okta позволяет бизнесу управлять, отслеживать и контролировать доступ для всех типов пользователей, включая агентов ИИ. 

Okta остается осторожной в своих прогнозах даже после отчетности о сильной прибыли

Okta отчиталась о прибыли и выручке, превышающих ожидания за квартал, но не повысила прогноз выручки на будущие кварталы. Вместо этого Okta сохранила осторожный и консервативный взгляд, что привело к падению акций компании более чем на 11% во время торгов после закрытия рынка.

Маккиннон сказал, что сложно планировать будущий рост с полной уверенностью из-за непредсказуемой глобальной экономической ситуации. 

Он сказал, что руководство Okta останется приземленным, будет тщательно планировать и защищать позицию компании, а не преследовать краткосрочные цели слишком агрессивно. 

Таким образом, Okta будет адаптироваться, когда условия рынка в отраслях, где бюджеты клиентов и циклы технологических инвестиций продолжают меняться, изменятся.

Маккиннон также отметил, что инвесторы могут чувствовать разочарование, когда такие компании, как Okta, не ускоряют рост сразу после отчетности о сильных результатах. 

Тодд сказал, что компании должны избегать ошибок при создании безопасных, масштабируемых систем идентификации, которые работают как для человеческих пользователей, так и для систем ИИ. 

Компаниям искусственного интеллекта поручено воспроизвести расчеты безопасности, лежащие в основе первого ядерного испытания Роберта Оппенгеймера перед выпуском всемогущих систем.

Макс Тегмарк, ведущий голос в области безопасности ИИ, сказал, что он провел расчеты, аналогичные тем, что проводил американский физик Артур Комптон перед испытанием Trinity, и обнаружил 90% вероятность того, что высоко развитый ИИ создаст экзистенциальную угрозу.

Маккиннон также объяснил, что форсирование роста слишком быстро затруднит для компании надлежащую поддержку новых клиентов. Тем не менее, он отметил свое волнение по поводу того, куда движется компания, и подчеркнул, что терпение и дисциплина делают компанию сильной. Okta думает за пределами следующего квартала и готовится лидировать в будущем, где ИИ и безопасное управление идентификацией будут идти рука об руку.