Generative KI löst Bedenken bei Führungskräften aus: Studie

Über 90 % der Führungskräfte äußern Bedenken hinsichtlich der unüberwachten Nutzung von generativen KI-Tools

Eine kürzlich von dem Cybersicherheitsanbieter Kaspersky durchgeführte Studie hat wachsende Bedenken unter C-Suite-Executives über die unregulierte Verbreitung von generativer künstlicher Intelligenz (GenAI) in ihren Organisationen offengelegt. Da 90 % der senior Geschäftsführer Sorgen über die unkontrollierte Einführung dieser Tools äußern, ist offensichtlich, dass generative KI zunehmend in verschiedene Geschäftsbereiche integriert wird.

Stille Infiltration von generativer KI

Kasperskys Studie ergab, dass mehr als die Hälfte (53 %) der befragten Führungskräfte der Ansicht ist, dass generative KI derzeit bestimmte Geschäftszweige in ihren Organisationen aktiv „vorantreibt“. Allerdings äußerten 59 % von ihnen auch tiefe Bedenken bezüglich dessen, was sie als „stille Infiltration“ von generativer KI beschrieben, was zu erhöhten Cyberrisiken führt. Dieses Phänomen der „Shadow AI“, bei dem Mitarbeiter generative KI ohne angemessene Aufsicht integrieren, stellt erhebliche Herausforderungen für die Datensicherheit und Governance dar.

Eine beunruhigende Erkenntnis ist, dass nur 22 % der befragten Führungskräfte die Einführung interner Governance-Richtlinien zur Überwachung der Nutzung von generativer KI in ihren Organisationen diskutiert haben. Darüber hinaus gaben 91 % zu, ein besseres Verständnis dafür zu benötigen, wie diese Tools genutzt werden, um Sicherheitsrisiken zu mindern.

David Emm, leitender Sicherheitsforscher bei Kaspersky, betonte die Dringlichkeit, dieses Problem anzugehen, und erklärte: „Angesichts der Tatsache, dass GenAI rasante Entwicklung derzeit keine Anzeichen einer Verlangsamung zeigt, desto schwieriger wird es, diese Anwendungen im Laufe der Zeit unkontrolliert zu lassen, und sie werden schwerer zu kontrollieren und zu sichern in wichtigen Geschäftsfunktionen wie Personalwesen, Finanzen, Marketing oder sogar IT.“

Bedenken hinsichtlich Datenschutzverletzungen

Generative KI basiert auf kontinuierlichem Lernen durch Dateneingaben, was den Schutz von Daten zu einer vorrangigen Sorge macht. Selbst wenn sie in gutem Glauben verwendet werden, können Mitarbeiter unbewusst sensible Daten außerhalb der Organisation übertragen, was potenziell zu einer Datenschutzverletzung führen kann. Kasperskys Forschung spiegelt diese Sorge wider, wobei 59 % der Führungskräfte ernsthafte Befürchtungen über das Risiko von Datenverlust äußerten.

Trotz dieser Bedenken zeigte die Studie auch, dass 50 % der Führungskräfte planen, generative KI in gewissem Umfang zu nutzen, hauptsächlich zur Automatisierung sich wiederholender Aufgaben. Darüber hinaus beabsichtigen 44 %, generative KI-Tools in ihre täglichen Routinen zu integrieren. Bemerkenswerterweise gaben 24 % an, dass sie geneigt sind, generative KI zur Automatisierung von IT- und Sicherheitsfunktionen zu nutzen.

Emm kommentierte diesen Trend und sagte: „Man könnte annehmen, dass die Aussicht auf den Verlust sensibler Daten und den Kontrollverlust über kritische Geschäftseinheiten der C-Suite Anlass zum Nachdenken geben würde, aber unsere Ergebnisse zeigen, dass fast ein Viertel der Branchenbosse derzeit die Delegation einiger ihrer wichtigsten Funktionen an KI in Betracht zieht.“

Allerdings betonte er auch die Notwendigkeit eines umfassenden Verständnisses des Datenmanagements und robuster Richtlinien, bevor GenAI weiter in das Unternehmensumfeld integriert wird.

Die Diskussion über die Risiken und Vorteile von generativer KI hat an Bedeutung gewonnen. Der britische Premierminister Rishi Sunak hat kürzlich zu einem erhöhten Bewusstsein für die mit generativer KI verbundenen Risiken aufgerufen. Dies geschieht im Vorfeld des AI Safety Summit im Bletchley Park, auf dem Branchenführer und Experten die Zukunft der Regulierung und die Integration dieser aufstrebenden Technologie diskutieren werden.

Zweischneidiges Schwert der generativen KI

Fabien Rech, Senior Vice-President und General Manager bei Trellix, hob die duale Natur der generativen KI hervor und erklärte: „Generative KI ist ein zweischneidiges Schwert – da sich die Cybersicherheitslandschaft weiterhin entwickelt, fügt die Verbreitung von generativer KI nur weitere Komplexität hinzu.“

Rech betonte die Bedeutung, dass Organisationen sich der Implikationen der generativen KI-Technologie bewusst sein müssen und wie sie effektiv genutzt und integriert werden kann. Während generative KI-Tools den Vorteil bieten, alltägliche Aufgaben zu vereinfachen und die Produktivität zu steigern, gibt es auch Bedenken hinsichtlich ihres potenziellen Missbrauchs für bösartige Aktivitäten wie Code-Injection, Phishing, Social Engineering und Deepfake-Technologie.

Er forderte Organisationen auf, robuste Sicherheitsmaßnahmen und die Integration angemessener Technologielösungen priorisieren, um einen widerstandsfähigen Schutz vor Cyberrisiken aufzubauen.