Studiedentalarmierende Sicherheitslücke beim Einsatz generativer KI

82 % der Führungskräfte der obersten Managementebene halten sichere und vertrauenswürdige KI für unerlässlich. Allerdings integrieren nur 24 % von ihnen Sicherheitsaspekte in ihre Initiativen im Bereich generativer KI. Dies geht aus einer neuen Studie von IBM und Amazon Web Services hervor, die auf der RSA Conference 2024 vorgestellt wurde. Die Studie analysiert die Ansichten von Führungskräften der obersten Managementebene zu sicheren Anwendungsfällen für KI, insbesondere für generative KI. IBM berichtet, dass nur 24 % der BefragtendentSicherheitsdimension in ihren Initiativen zur generativen KI berücksichtigten, während fast 70 % angaben, Innovation habe Vorrang vor Sicherheit.

Innovation vs. Sicherheit – ein Kompromiss

Während die meisten Führungskräfte befürchten, dass unvorhersehbare Risiken KI-Initiativen beeinträchtigen werden, räumen sie der Sicherheit keine Priorität ein. Obwohl die Bedrohungslandschaft im Bereich KI noch nicht vollständig ausgereift ist, wurden in einigen Anwendungsfällen ChatGPT oder ähnliche Dienste zur Generierung von Phishing-E-Mail-Skripten und Deepfake-Audio verwendet. Sicherheitsforscher von IBM X-Force warnen davor, dass KI-Systeme – ähnlich wie ausgereiftere Technologien – zunehmend in größerem Umfang Ziel von Angriffen werden dürften.

Während sich eine konsolidierte Angriffsfläche für KI-Systeme erst allmählich herausbildet, gehen die Forscher von IBM X-Force davon aus, dass Angreifer, sobald die Branche im Hinblick auf gängige Technologien und Einsatzmodelle ausgereift ist, diese KI-Systeme verstärkt ins Visier nehmen werden, heißt es in dem Bericht. Diese Konvergenz ist bereits im Gange, da der Markt rasant reift und sich führende Anbieter in den Bereichen Hardware, Software und Dienstleistungen etablieren.

, besonders besorgniserregend -Bericht. Der unsachgemäße Einsatz von GenAI-Tools kann zu Fehlverhalten oder dem Verlust sensibler Daten führen. Dem Bericht zufolge nimmt die Nutzung von „Schatten-KI“ in Unternehmen zu, da Mitarbeiter GenAI-Tools verwenden, die nicht von den Sicherheitsteams des Unternehmens genehmigt und abgesichert wurden.

Zu diesem Zweck kündigte IBM im Januar ein Rahmenwerk zur Absicherung von GenAI an. Dessen Grundprinzipien sind die Zentralisierung von Daten, die zum Trainieren von KI-Modellen verwendet werden, die Absicherung der Modelle durch eine Kombination aus dem Scannen von Entwicklungspipelines auf Schwachstellen, der Durchsetzung von Richtlinien und Zugriffskontrollen für die KI-Nutzung sowie die Absicherung ihrer Nutzung gegen Angriffe auf laufende KI-Modelle.

Sicherung der KI-Pipeline

Am Montag stellte IBMs X-Force Red Offensive Security Team einen Testservice für künstliche Intelligenz vor, der KI-Anwendungen, KI-Modelle und MLSecOps-Pipelines mittels Red Teaming evaluiert. Am Mittwoch präsentiert IBM auf der RSA Conference 2024 den Vortrag „Jetzt innovieren, später sichern? Entscheidungen, Entscheidungen …“ zur Absicherung und Governance der KI-Pipeline.

Der zweite Redner war Ryan Dougherty, Programmdirektor für Sicherheitstechnologie bei IBM Security. Im Gespräch mit der TechTarget-Redaktion erklärte er, dass die Absicherung von KI direkt nach der Installation eine der Hauptaufgaben von IBM Security im Technologiebereich sei. Er sagte: „Das macht diesen Bereich so entscheidend, insbesondere im Fall von generativer KI: Sie wird tief in Geschäftsanwendungen und -prozesse integriert. Die Einbindung in die Geschäftsprozesse erhöht das Risiko potenzieller Bedrohungen erheblich.“.

Seiner Ansicht nach KI in ihrer realen Natur verankert sein.

„Generative KI wird anhand riesiger Mengen sensibler Geschäftsdaten trainiert und eingesetzt, und wir müssen diese neuen Kronjuwelen sichern, denn hier liegt der Wettbewerbsvorteil. Es geht um die Daten, die diese Organisationen besitzen, und die Erkenntnisse, die sie durch den Einsatz generativer KI gewinnen und in ihren Anwendungen nutzen, um ihre Geschäftsprozesse zu verbessern.“

Dougherty fügte hinzu, dass sie viel Geld für die Modelle ausgeben, die sehr teuer sind. Viel geistiges Eigentum und Investitionen fließen in die Operationalisierung dieser generativen KI-Anwendungen, und Unternehmen können es sich schlichtweg nicht leisten, diese zu sichern.