Die Einführung von KI legt neue Cybersicherheitsbedrohungen offen

Ein Cybersicherheitsexperte gab bekannt, dass KI eine gefährliche Cybersicherheitsbedrohung für Unternehmen darstellt, die sie als Dienstleistung nutzen, und zwar nicht nur durch Angriffe von Kriminellen, sondern auch auf legitime Weise.

Cybersicherheitslücken der KI

Während die Bedrohung durch böswillige Akteure, die KI für Angriffe nutzen, bereits vielfach diskutiert wurde, sagt Peter Garraghan, CEO und CTO von Midgard, einem Anbieter von Cybersicherheit speziell für KI: „Das Problem, das ich im Sinn habe, ist eine Cybersicherheitsbedrohung für KI, die genau das Thema ist.“

Wie zu erwarten, betrifft die häufigste und damit risikoreichste Anwendung von KI in Unternehmen Chatbots im Kundenservice, deren Tonfall und Daten typischerweise auf die jeweilige Organisation zugeschnitten sind. Genau hier setzte Dr. Garraghan an, Informatikprofessor an der Lancaster University mit Schwerpunkt auf KI-Sicherheit und -Systemen, und entschied sich 2022, Mindgard zu gründen. „KI ist keine Zauberei“, sagt er. Sie ist lediglich eine Kombination aus zusätzlichem Code, Daten und Hardware. Angesichts der heutigen Cyberbedrohungen können sich all diese Gefahren auch in KI manifestieren.

Stellen wir uns Folgendes vor: Angenommen, ein Angreifer nutzt ein Verfahren namens SQL-Injection. Damit kann er Schwachstellen in Webformularen wie Anmelde- oder Kontaktformularen ausnutzen. Eine weitere Methode, um Teleprompter-Daten zu erfassen, ist die sogenannte Prompt-Injection, die in öffentlichen Anwendungen eingesetzt wird. Erstens: Wenn die Sicherheit nicht ausreichend gewährleistet ist, können KI-Tools praktisch dazu gebracht werden, ihren Quellcode, ihre Anweisungen, das geistige Eigentum des Unternehmens oder Kundendaten preiszugeben. Zweitens: KI-Tools können wie andere Softwareanwendungen per Reverse Engineering analysiert werden, um Schwachstellen zudent.

Sicherung von KI-Systemen

Garraghan kommentiert die Schwere des Problems: In absehbarer Zeit, in wenigen Jahren, könnte die nationale Sicherheit gefährdet sein, oder benachteiligte Bevölkerungsgruppen könnten in Gefahr geraten. Die neuen Informationen wirken wie eine Warnung: Unternehmen sollten die veröffentlichten Daten mit Vorsicht genießen.

Garraghan erklärt: „Darüber hinaus kann KI als Werkzeug für Cyberangriffe missbraucht werden, um Daten zu stehlen; das Modell kann dann die angeforderten Daten liefern.“ Als Beispiel nennt er die rechtsgerichtete Social-Media-Plattform Gab, die im Januar nach Anleitungen suchte und dabeidentderen Anweisungen preisgab. Auch die Modelle der GPT-basierten Plattform OpenAI wurden bereits zuvor missbraucht.

Garraghan behauptet, dass Informationen durch unautorisierte VoIP-Angriffe erlangt werden können. Zudem könne die KI per Reverse Engineering analysiert und das System umgangen oder manipuliert werden, um anderen Systemen Zugriff zu verschaffen. Informationslecks könnten daher ein zentrales Problem darstellen, das alle Branchen betrifft, sowohl interne als auch externe. Er führt außerdem weitere Risiken an, wie beispielsweise die Modellumgehung, bei der das Modell durch die Erstellung gefälschter Daten in die Irre geführt oder absichtlich umgangen wird.

Garraghan wies darauf hin, dass das Einschleusen schädlicher Befehle oder die Verfälschung von Daten durch fehlerhafte Lösungen in traceine weitere Bedrohung darstellt. Er merkte zudem an, dass die allgemeinen Auswirkungen von Cyberangriffen in der Regel in einem Reputationsschaden bestehen. Ebenso sind die Bereiche, die am stärksten von den negativen Folgen solcher Cyberangriffe betroffen sind, diejenigen, denen am meisten auf dem Spiel steht. Da viele Branchen und Institutionen online agieren, sind beispielsweise die öffentliche Sicherheit und der SchutzdentInformationen wichtige Werte, denen der Finanzdienstleistungs- und der Gesundheitssektor höchste Priorität einräumen sollten.

Garraghan sagt: Der Zusammenhang besteht darin, dass je strukturierter und kontrollierender man in seiner Branche ist und je mehr Risiken durch KI (und auch durch Erfahrung – je weniger man KI nutzt, desto weniger adaptiert man sie) man ausgesetzt ist, desto schlechter die eigene KI ist. Vielleicht sind sie nicht etwa fauler. Vielleicht befinden sie sich einfach in einer besonders schwierigen Lebensphase.

Proaktive KI-Sicherheitsmaßnahmen

KI wird diese Risiken in jedem Unternehmen minimieren, doch laut Garraghan sind dafür mehrere Sicherheitsebenen erforderlich (da KI im Geschäftsleben diese bereits benötigt), um die Nutzer zu schützen. „Es gibt bereits Cybersicherheitstools für verschiedene Branchen“, so Garraghan. „Dazu gehören beispielsweise Tools für das Sicherheitsmanagement, Erkennungs- und Reaktionstools, Firewalls und Unterstützung für den Shift-Left-Ansatz, etwa Code-Scanning. KI im Zuge der digitalen Transformation bald unerlässlich sein.“ Der Fokus liegt dabei ausschließlich auf KI und ML, während Systeme wie neuronale Netze nur gelegentlich Erwähnung finden.

Sie benötigen einen Anwendungsscanner für neuronale Netze, ein Reaktionssystem für alle Arten von neuronalen Netzen, Sicherheitstests und Red Teaming für eine bessere Kontrolle zwischen Anwendungen. Es ist einfacher, Probleme frühzeitig zu beheben, anstatt Laufzeitprobleme zu erkennen. Wir empfehlen Organisationen, die KI-Modelle oder gekaufte KI-Anwendungen und -Dienste nutzen, alle Probleme mit den Modellen vor der Produktivsetzung zu beheben. So können nach der Produktivsetzung nur noch die tatsächlich zu behebenden Problemedentwerden.