Studie identifiziert alarmierende Sicherheitslücke bei der Bereitstellung von Generative AI

82 % der C-Level-Executives glauben, dass sichere und vertrauenswürdige KI kritisch ist. Allerdings bauen nur 24 % von ihnen Sicherheit in ihre Initiativen im Zusammenhang mit GenAI ein. Das geht aus neuen Forschungsergebnissen von IBM und Amazon Web Services hervor, einer gemeinsamen Forschung, die auf der RSA Conference 2024 angekündigt wurde und die detaillierten Ergebnisse einer Umfrage über die Ansichten von C-Level-Executives zur Förderung sicherer Anwendungsfälle für KI mit starkem Fokus auf generative KI darlegt. IBM berichtet, dass nur 24 % der Befragten eine Sicherheitsdimension in ihren generativen KI-Initiativen berücksichtigten, während fast 70 % sagen, dass Innovation Vorrang vor Sicherheit hat.

Innovation gegen Sicherheitskompromiss

Während die meisten Executives befürchten, dass unvorhersehbare Risiken GenAI-Initiativen beeinträchtigen werden, priorisieren sie nicht die Sicherheit. Obwohl eine vollständig realisierte AI-Bedrohungslandschaft noch nicht eingetreten ist, haben einige Anwendungsfälle die Verwendung von ChatGPT oder ähnlichen Tools zur Generierung von Phishing-E-Mail-Skripten und Deepfake-Audio beinhaltet. IBM X-Force-Sicherheitsforscher haben gewarnt, dass, wie bei ausgereifteren Technologien, zunehmend damit gerechnet werden kann, dass AI-Systeme in größerem Umfang angegriffen werden.

Während eine konsolidierte AI-Bedrohungsfläche erst beginnt, sich zu formen, erwarten IBM X-Force-Forscher, dass Bedrohungsakteure, sobald die Branchenlandschaft um gemeinsame Technologien und Ermöglichungsmodelle herum ausgereift ist, beginnen werden, diese AI-Systeme breiter zu zielen, hieß es in dem Bericht. Tatsächlich ist diese Konvergenz im Gange, da der Markt schnell reift, und führende Anbieter tauchen bereits in Hardware, Software und Dienstleistungen auf.

Noch besorgniserregender, so der IBM Bericht, sind diejenigen Unternehmen, die die KI-Modelle, die sie als Teil ihres Geschäfts aufbauen und nutzen, nicht ordnungsgemäß sichern. Eine schlechte Anwendung von GenAI-Tools kann zu unsachgemäßer Handhabung oder Leckage sensibler Daten führen. Laut dem Bericht nimmt die Nutzung von „Shadow AI“ in Organisationen zu, da Mitarbeiter GenAI-Tools verwenden, die nicht von den Unternehmenssicherheitsteams genehmigt und gesichert wurden.

Zu diesem Zweck kündigte IBM im Januar einen Rahmen zur Sicherung von GenAI an. Seine Grundprinzipien sind die Zentralisierung von Daten, die zur Schulung von KI-Modellen verwendet werden, die Sicherung von Modellen durch eine Kombination aus Scannen von Entwicklungs-Pipelines auf Schwachstellen, die Durchsetzung von Richtlinien und Zugriffssteuerung für die KI-Nutzung und die Sicherung der Nutzung gegen Live-Angriffe auf KI-Modelle.

Sicherung der KI-Pipeline

Am Montag hat IBMs X-Force Red Offensive-Sicherheitsteam einen KI-Testdienst eingeführt, der darauf abzielt, KI-Anwendungen, KI-Modelle und MLSecOps-Pipelines durch Red-Teaming zu bewerten. Am Mittwoch auf der RSA Conference 2024 wird IBM „Innovate Now, Secure Later? Decisions, Decision…“ zur Sicherung und Etablierung der Governance für die KI-Pipeline präsentieren.

Der zweite Redner war Ryan Dougherty, der Programmleiter für Sicherheitstechnologie bei IBM Security. Im Gespräch mit TechTarget Editorial sagte er, dass die Sicherung von KI ab Werk eine der Hauptbedenken für IBM Security im Technologiebereich ist. Er sagte: „Das macht diesen Bereich so kritisch, insbesondere im Fall von generativer KI: Sie dringt tief in Geschäftsanwendungen und -prozesse ein. Die Integration in den Geschäftsfach hebt sie über die potenziellen Risiken und Bedrohungen hinaus.“

Seiner Meinung nach muss KI aus geschäftlicher Sicht in ihrer wahren Natur verankert sein.

„Generative KI wird auf riesigen Mengen sensibler Geschäftsdaten trainiert und in Betrieb genommen, und wir müssen diese neuen Kronjuwelen sichern, denn dort liegt der Wettbewerbsvorteil. Es geht um die Daten, die diese Organisationen haben, und die Erkenntnisse, die sie durch die Nutzung der generativen KI gewinnen und in ihren Anwendungen zur Verbesserung ihrer Unternehmen sichtbar machen.“

Dougherty fügte hinzu, dass sie viel Geld für die Modelle ausgeben, die sehr teuer sind. Viel IP und Investition fließen in die Inbetriebnahme dieser generativen KI-Anwendungen, und Unternehmen können es sich einfach nicht leisten, sie zu sichern.