Britische IT-Experten äußern Bedenken hinsichtlich der Ambitionen im Bereich der generativen KI im Vorfeld des KI-Sicherheitsgipfels

Im Vorfeld des britischen KI-Sicherheitsgipfels hat eine aktuelle Studie die erheblichen Bedenken britischer IT-Fachkräfte hinsichtlich des Einsatzes generativer KI-Anwendungen verdeutlicht. Laut der von O’Reilly im September 2023 durchgeführten Studie äußerten erstaunliche 93 % der britischen IT-Fachkräfte Bedenken hinsichtlich der KI-Strategien ihrer Unternehmen.

Unzureichende Ausbildung ist größte Sorge

Die größte Sorge von IT-Fachleuten betrifft das wahrgenommene mangelnde Verständnis und die unzureichende Schulung auf Führungsebene; 28 % nennen dies als Hauptanliegen. Dies wirft Fragen hinsichtlich der Fähigkeit der obersten Führungsebene auf, die Implementierung generativer KI effektiv zu steuern.

Risikobewertung und operatives Verständnis

Die Studie hebt zudem hervor, dass 23 % der IT-Fachkräfte Bedenken hinsichtlich fehlender umfassender Risikoanalysen äußern, während 22 % sich Sorgen um ein unzureichendes Verständnis der operativen Aspekte generativer KI machen. Diese Bedenken deuten darauf hin, dass Unternehmen KI-Initiativen möglicherweise ohne vollständiges Verständnis der damit verbundenen Risiken und operativen Komplexitäten starten.

Die KI-Ambitionen der britischen Regierung

Während die britische Regierung mit dem bevorstehenden Global AI Safety Summit ein förderliches regulatorisches Umfeld für KI schaffen will, zeigt die Studie, dass 25 % der IT-Experten kein Vertrauen in die aktuellen Fähigkeiten ihrer Organisation haben, die Einhaltung der sich entwickelnden KI-Vorschriften zu gewährleisten.

Das Vertrauensniveau variiert

Im Gegensatz dazu sind 51 % der IT-Fachkräfte „eher“dent , dass ihre Organisationen über die notwendigen Kompetenzen verfügen, um mit dem sich wandelnden regulatorischen Umfeld Schritt zu halten. Diese unterschiedlichen Einschätzungen unterstreichen die Notwendigkeit eines robusteren und einheitlicheren Ansatzes für die KI-Regulierung.

Trevor Dearing, Leiter der Abteilung für kritische Infrastruktur bei Illumio, betont die Notwendigkeit sofortigen Handelns: „Wenn wir es ernst meinen mit dem Schutz der Nation vor KI, müssen wir die US-Strategien übernehmen und die Implementierung von Sicherheitskonzepten wie Zero Trust vorschreiben.“ Dearing meint, dass die Anwendung solcher Strategien dazu beitragen kann, die potenziellen Auswirkungen von KI-Angriffen zu verringern.

Sind wir auf KI vorbereitet?

Der O’Reilly-Bericht unterstreicht eine mögliche Diskrepanz zwischen Großbritanniens Bestrebungen, im Bereich KI führend zu sein, und den tatsächlichen Fähigkeiten und der Vorbereitung von IT-Fachkräften. Rund 71 % der IT-Teams befürchten, dass die digitale Kompetenzlücke die Ambitionen der britischen Regierung, eine globale Führungsrolle im Bereich KI einzunehmen, gefährden könnte.

Trotz erheblicher Investitionen in generative KI zeigt die Studie, dass die Unternehmensrichtlinien und Mitarbeiterschulungen nicht Schritt gehalten haben. Besonders auffällig ist, dass Mitarbeiter außerhalb der IT-Abteilungen nur unzureichend (32 %) oder gar nicht (36 %) über die Auswirkungen generativer KI auf den Arbeitsplatz geschult wurden.

Bedenken hinsichtlich der Mitarbeiterschulung

Dieser Mangel an Mitarbeiterschulungen wird von 27 % der IT-Fachkräfte als erhebliches Problem genannt, ähnlich wie ihre Bedenken hinsichtlich der fortgeschrittenen Cybersicherheitsbedrohungen durch diese Technologien. Der Bericht empfiehlt die Implementierung umfassender Schulungsprogramme, um diese Wissenslücke zu schließen.

Fehlende KI-Richtlinien in Unternehmen

Die O'Reilly-Studie zeigt, dass 41 % der IT-Fachkräfte das Fehlen einer betrieblichen Richtlinie für den Einsatz generativer KI-Technologien beklagen, während weitere 11 % sich über den Richtlinienstatus ihres Unternehmens nicht im Klaren sind.

Fehlende formale Richtlinien

Eine aktuelle ISACA-Studie unter 2300 Experten für digitales Vertrauen ergab, dass nur 10 % der Unternehmen über formale, umfassende Richtlinien für den Einsatz von KI-Technologien verfügen. Dieser Mangel an Richtlinien wirft Fragen zur Datensicherheit und zum ethischen Einsatz von KI in Unternehmen auf.

Nachfrage nach Weiterbildung

Als Reaktion auf diese Herausforderungen wünschen sich 82 % der IT-Fachkräfte mehr Lern- und Entwicklungsmöglichkeiten im Bereich generativer KI. Bemerkenswerterweise erwägen 61 % einen Arbeitgeberwechsel im nächsten Jahr, falls ihr Unternehmen keine Weiterbildungsmöglichkeiten in diesem Bereich anbietet.

Während 70 % der Teilnehmer der ISACA-Umfrage „Generative AI 2023“ davon überzeugt sind, dass KI ihre Arbeit positiv beeinflussen wird, erkennen bemerkenswerte 81 % von ihnen den Bedarf an Weiterbildungen an, um ihre Arbeitsplätze zu sichern oder ihre Karriere voranzutreiben. Dies unterstreicht die Bedeutung des lebenslangen Lernens im sich ständig weiterentwickelnden KI-Umfeld.

Ein Aufruf zum Handeln

Alexia Pedersen, Vizepräsidentin für die EMEA-Region bei O'Reilly, betont die Wichtigkeit von Investitionen in generative KI und die Notwendigkeit, Mitarbeiter angemessen zu schulen und gleichzeitig solide Richtlinien für den Arbeitsplatz zu implementieren. Sie erklärt: „Dies ist nicht nur eine Strategie zur Verbesserung der Rekrutierung und Mitarbeiterbindung angesichts des wachsenden Fachkräftemangels, sondern auch ein notwendiger Schritt, um einen ethischen und sicheren Einsatz von KI zu gewährleisten, wenn Großbritannien seine globalen Ambitionen verwirklichen will.“

Da Großbritannien sich im komplexen Feld der generativen KI zurechtfinden muss, ist klar, dass sowohl die Privatwirtschaft als auch die Regierung Bedenken hinsichtlich Führungskräftetraining, Einhaltung regulatorischer Vorgaben, Weiterbildung der Arbeitskräfte und Politikentwicklung angehen müssen, um das volle Potenzial der KI auszuschöpfen und gleichzeitig ihre Risiken zu minimieren. Der bevorstehende KI-Sicherheitsgipfel bietet eine wichtige Gelegenheit zur Zusammenarbeit und zur Entwicklung eines einheitlichen Ansatzes für diese Herausforderungen.