Okta CEO, AI 보안 위험 경고

Okta CEO Todd McKinnon은 테스트 모델에서 실제 상황으로 사용이 전환되면서 인공지능이 가져오는 보안 문제에 대해 경고하고 있습니다. 그는 AI 에이전트가 접근할 수 있는 것을 제어할 수 있는 신원 기반 보안 시스템의 시급한 필요성을 강력히 강조했습니다.

CNBC의 Jim Cramer와의 최근 인터뷰에서 McKinnon은 AI 에이전트가 프로토타입에서 생산 환경으로 전환되면서 조직이 시급히 해결해야 할 새로운 사이버 보안 과제를 도입한다고 강조했습니다.

AI 에이전트는 이제 실제 시스템에서 작동하며 안전하고 통제된 접근 권한을 가져야 합니다

McKinnon은 실제 비즈니스 환경에서 AI 에이전트를 사용하는 기업들에게 이러한 시스템을 동료처럼 대할 것을 조언했습니다. 그는 AI를 '생산' 단계로 이동하면 이러한 에이전트가 개인 고객 정보, 내부 파일 및 비즈니스 데이터가 포함된 실제 시스템에 대한 실제 접근 권한을 얻게 된다고 설명합니다.. 

이것은 기업들이 무시할 수 없는 큰 보안 위험을 수반합니다.

McKinnon은 AI 시스템이 이제 독립적으로 행동하고 감독 없는 결정을 내릴 수 있으며, 이로 인해 무단 접근, 데이터 유출 또는 정보의 우발적 오용이 발생할 수 있다고 경고합니다. 그는 이러한 위험을 안전하게 처리하는 유일한 방법은 데이터 접근을 시도하는 개인이나 대상을 확인하는 모니터링 시스템을 사용하는 것이라고 조언합니다. 이러한 시스템은 해당 개인이나 AI 에이전트가 신뢰할 수 있고, 검증되었으며, 권한이 있는 경우에만 접근을 허용합니다.

McKinnon은 Okta의 신원 관리가 기업들이 AI 에이전트를 포함한 모든 유형의 사용자의 접근을 관리, 추적 및 제어할 수 있게 한다고 말합니다. 

강력한 실적 발표 후에도 Okta는 예측에 신중합니다

Okta는 분기 실적과 수익이 예상보다 좋았음에도 불구하고 향후 분기의 수익 예측을 상향 조정하지 않았습니다. 대신 Okta는 보수적인 전망을 유지했으며, 이는 시간외 거래 중 회사 주가를 11% 이상 하락시켰습니다.

McKinnon은 예측 불가능한 글로벌 경제 기후로 인해 미래 성장을 완전히 확신하며 계획하기 어렵다고 말했습니다. 

그는 Okta의 리더십이 현실을 직시하고, 신중하게 계획하며, 단기 목표를 너무 공격적으로 추구하기보다 회사의 입지를 보호할 것이라고 말했습니다. 

이러한 방식으로 Okta는 고객 예산과 기술 투자 주기가 계속 변화하는 산업의 시장 조건이 변경될 때 조정할 것입니다.

McKinnon은 Okta와 같은 기업들이 강력한 실적을 보고한 후 즉시 성장을 가속화하지 않을 때 투자자들이 좌절감을 느낄 수 있다고 지적했습니다. 

Todd는 인간 사용자와 AI 시스템 모두에서 작동하는 안전하고 확장 가능한 신원 시스템을 구축할 때 실수를 피해야 한다고 말했습니다. 

인공지능 기업들은 로버트 오펜하이머의 첫 핵실험을 뒷받침한 안전 계산을 복제할 것을 촉구받았습니다. 이는 모든-powerful 시스템을 출시하기 전에 이루어져야 합니다.

AI 안전 분야의 주요 목소리인 Max Tegmark는 그는 Trinity 테스트 이전에 미국 물리학자 Arthur Compton과 유사한 계산을 수행했으며, 매우 진보된 AI가 존재적 위협을 제기할 확률이 90%라고 발견했다고 말했습니다.

McKinnon 또한 성장을 너무 강요하면 회사가 신규 고객을 적절히 지원하기 어려워질 것이라고 설명했습니다. 그럼에도 불구하고 그는 회사의 진행 방향에 대한 자신의 기대감을 강조하며, 인내와 규율이 회사를 강하게 유지한다고 언급했습니다. Okta는 다음 분기를 넘어 AI와 안전한 신원 관리가 함께 가는 미래를 준비하며 선도할 준비를 하고 있습니다.