Unsicherheit herrscht vor, während die Nutzung von generativer KI wächst – ISACA-Umfrage zeigt

Eine kürzlich von ISACA, der globalen Vereinigung für digitales Vertrauen, durchgeführte Umfrage hat die wachsende Unsicherheit im Zusammenhang mit generativer künstlicher Intelligenz (KI) beleuchtet. Die Umfrage mit dem Titel „Generative AI 2023: An ISACA Pulse Poll“ befragte über 2.300 Fachkräfte, die in Bereichen wie Cybersicherheit, IT-Audit, Governance, Datenschutz und Risiko tätig sind. Sie offenbarte eine bemerkenswerte Diskrepanz zwischen der hohen Nutzung von generativer KI und dem Fehlen umfassender Unternehmensrichtlinien, die ihre Nutzung regeln.

Die Umfrage ergab, dass ein signifikanter Prozentsatz der Organisationen Mitarbeitern die Nutzung von generativer KI sogar ohne ausdrückliche Richtlinien erlaubt. Nur 28 Prozent der Organisationen gaben an, über Richtlinien zu verfügen, die die Nutzung von generativer KI ausdrücklich erlauben, und nur 10 Prozent behaupteten, eine formale umfassende Richtlinie zu haben.

Schockierend mehr als jeder vierte Organisation gab an, dass sowohl eine Richtlinie als auch Pläne zu deren Erstellung fehlten. Darüber hinaus gaben 40 Prozent an, dass Mitarbeiter generative KI trotz des Fehlens formaler Richtlinien nutzten, und weitere 35 Prozent waren unsicher, ob eine solche Nutzung stattfindet.

Generative KI wird in verschiedenen Bereichen von Organisationen eingesetzt, einschließlich Content-Erstellung, Produktivitätssteigerung, Aufgabenautomatisierung, Kundenservice und Entscheidungsfindung.

Mangel an Vertrautheit und Schulung

Während Mitarbeiter aktiv generative KI annehmen, hinken die Organisationen bei der Bereitstellung angemessener Schulungen hinterher. Nur sechs Prozent der befragten Organisationen bieten allen Mitarbeitern KI-Schulungen an. Noch alarmierender ist, dass 54 Prozent angaben, dass überhaupt keine KI-Schulungen bereitgestellt wurden, selbst nicht für Teams, die direkt von der KI-Implementierung betroffen sind. Darüber hinaus fühlten sich nur 25 Prozent der Befragten mit generativer KI auf hohem Niveau vertraut.

Jason Lau, ISACA-Vorstandsmitglied und CISO bei Crypto.com, betonte die Notwendigkeit, dass Organisationen aufholen und Richtlinien, Leitfäden und Schulungen bereitstellen müssen, um eine verantwortungsvolle und ethische Nutzung von generativer KI zu gewährleisten. Er erklärte, dass Mitarbeiter nicht auf eine Erlaubnis warten würden, generative KI für ihre Arbeit zu nutzen, und betonte die Notwendigkeit einer größeren Ausrichtung zwischen Arbeitgebern und Mitarbeitern in Bezug auf die Technologie.

Sorgen hinsichtlich Risiken und Ausbeutung

Die Umfrage ging auf ethische Bedenken und Risiken im Zusammenhang mit generativer KI ein. Alarmierende 41 Prozent der Befragten gaben an, dass unzureichende Aufmerksamkeit auf ethische Standards für die KI-Implementierung gerichtet werde. Überraschenderweise betrachteten weniger als ein Drittel der Organisationen das Management von KI-Risiken als unmittelbare Priorität. 29 Prozent betrachteten es als langfristige Sorge, während 23 Prozent angaben, dass ihre Organisationen keine aktuellen Pläne zur Bewältigung von KI-Risiken hätten.

Die Befragten identifizierten mehrere Hauptrisiken im Zusammenhang mit generativer KI, darunter Fehlinformationen und Desinformation, Datenschutzverletzungen, Social Engineering, Verlust von geistigem Eigentum und Arbeitsplatzverdrängung.

Besonders besorgniserregend war die Angst, dass generative KI von böswilligen Akteuren ausgenutzt werden könnte, wobei 57 Prozent der Befragten ein hohes Maß an Sorge in dieser Hinsicht äußerten. Darüber hinaus glaubten 69 Prozent, dass Gegner KI genauso erfolgreich oder sogar noch erfolgreicher als Fachleute für digitales Vertrauen einsetzen.

Auswirkungen auf Jobs und Optimismus

Bei der Untersuchung der Auswirkungen von KI auf Jobrollen glaubten die Befragten, dass Sicherheit, IT-Betrieb sowie Risiko- und Compliance-Bereiche primär dafür verantwortlich sind, die sichere Bereitstellung von KI sicherzustellen. Für die Zukunft gaben 19 Prozent der Organisationen an, dass sie in den nächsten 12 Monaten neue Jobrollen im Zusammenhang mit KI-Funktionen schaffen würden. 

Allerdings glaubten 45 Prozent, dass eine erhebliche Anzahl von Jobs aufgrund von KI eliminiert werden würde. Interessanterweise blieben 70 Prozent der Fachleute für digitales Vertrauen optimistisch bezüglich der positiven Auswirkungen von KI auf ihre Rollen, aber 80 Prozent erkannten die Notwendigkeit zusätzlicher Schulungen an, um ihre Jobs zu behalten oder ihre Karriere voranzutreiben.

Trotz der Herausforderungen und Unsicherheiten im Zusammenhang mit KI drückte ein signifikanter Anteil der Befragten Optimismus aus. Achtzig Prozent glaubten, dass KI eine positive oder neutrale Auswirkung auf ihre Branche, ihre Organisationen und ihre Karrieren haben würde. Darüber hinaus betrachteten 85 Prozent KI als ein Werkzeug, das die menschliche Produktivität erweitert, und 62 Prozent glaubten, dass sie eine positive oder neutrale Auswirkung auf die Gesellschaft als Ganzes haben würde.