Okta-Chef warnt vor KI-Sicherheitsrisiken

Okta-Chef Todd McKinnon warnt vor den Sicherheitsproblemen mit künstlicher Intelligenz, während sie sich von Testmodellen hin zu echten Anwendungen verschiebt. Er betonte nachdrücklich die dringende Notwendigkeit von identitätsbasierten Sicherheitssystemen, die kontrollieren können, worauf KI-Agenten zugreifen können.

In einem kürzlichen Interview mit CNBCs Jim Cramer betonte McKinnon, dass KI-Agenten beim Übergang von Prototypen zu Produktionsumgebungen neuartige Cybersicherheitsprobleme einführen, die Organisationen dringend angehen müssen.

KI-Agenten arbeiten jetzt in realen Systemen und müssen sicheren, kontrollierten Zugang haben

McKinnon sagte Unternehmen, die KI-Agenten in realen Geschäftsumgebungen einsetzen, die Systeme wie Kollegen zu behandeln. Er erklärt, dass die Verlagerung von KI in die „Produktion“ diesen Agenten echten Zugang zu Live-Systemen gibt, die private Kundeninformationen, interne Dateien und Geschäftsdaten enthalten. 

Dies bringt große Sicherheitsrisiken mit sich, die Unternehmen nicht ignorieren können.

McKinnon warnt, dass KI-Systeme jetzt unabhängig handeln und unüberwachte Entscheidungen treffen können, die zu unbefugtem Zugriff, Datenlecks oder versehentlicher Fehlverwendung von Informationen führen könnten. Er rät, dass der einzige Weg, diese Risiken sicher zu handhaben, die Verwendung von Überwachungssystemen ist, die prüfen, wer oder was versucht, auf Daten zuzugreifen. Diese Systeme erlauben nur Zugriff, wenn diese Person oder dieser KI-Agent vertrauenswürdig, verifiziert und berechtigt ist.

McKinnon sagt, dass Okta’s Identitätsmanagement Unternehmen ermöglicht, den Zugriff für alle Arten von Nutzern, einschließlich KI-Agenten, zu verwalten, zu verfolgen und zu kontrollieren. 

Okta bleibt bei seinen Prognosen vorsichtig, auch nach starken Quartalszahlen

Okta meldete bessere als erwartete Quartalszahlen und Einnahmen, erhöhte aber nicht seine Einnahmenprognose für kommende Quartale. Stattdessen behielt Okta eine vorsichtige und konservative Aussicht bei, die die Aktie des Unternehmens während des After-Hours-Handels um mehr als 11 % sinken ließ.

McKinnon sagte, es sei schwierig, künftiges Wachstum mit voller Sicherheit zu planen, aufgrund des unvorhersehbaren globalen Wirtschaftsklimas. 

Er sagte, die Führung von Okta werde bodenständig bleiben, sorgfältig planen und die Position des Unternehmens schützen, anstatt kurzfristige Ziele zu aggressiv zu verfolgen. 

Auf diese Weise wird Okta sich anpassen, wenn sich die Marktbedingungen in Branchen, in denen sich Kundenbudgets und Technologie-Investitionskontinuitäten ständig ändern, verändern.

McKinnon wies auch darauf hin, dass Investoren frustriert sein könnten, wenn Unternehmen wie Okta das Wachstum nicht sofort beschleunigen, nachdem sie starke Ergebnisse gemeldet haben. 

Todd sagte, Unternehmen müssen Fehler vermeiden, wenn sie sichere, skalierbare Identitätssysteme aufbauen, die über menschliche Nutzer und KI-Systeme hinweg funktionieren. 

Unternehmen der künstlichen Intelligenz wurden aufgefordert, die Sicherheitsberechnungen zu replizieren, die Robert Oppenheimers erstem Nukleartest zugrunde liegen, bevor allmächtige Systeme freigegeben werden.

Max Tegmark, eine führende Stimme in der KI-Sicherheit, sagte, er habe Berechnungen ähnlich wie der US-Physiker Arthur Compton vor dem Trinity-Test durchgeführt und eine 90-prozentige Wahrscheinlichkeit gefunden, dass eine hochentwickelte KI eine existenzielle Bedrohung darstellen würde.

McKinnon erklärte auch, dass ein zu schnelles Erzwingen des Wachstums es einem Unternehmen schwer machen wird, neue Kunden angemessen zu unterstützen. Dennoch bemerkte er seine Begeisterung für die Richtung, in die sich das Unternehmen entwickelt, und betonte, dass Geduld und Disziplin ein Unternehmen stark halten. Okta denkt über das nächste Quartal hinaus vor und bereitet sich darauf vor, in einer Zukunft zu führen, in der KI und sicheres Identitätsmanagement Hand in Hand gehen werden.