KI-Adoption offenbart neue Cybersicherheitsbedrohungen

Ein Cybersicherheitsexperte hat offengelegt, dass KI eine unsichere Cybersicherheitsbedrohung für Unternehmen darstellt, die sie als Dienstleistung nutzen, nicht nur durch Angriffe von Kriminellen, sondern auch auf legitime Weise.

Cyberverwundbarkeiten der KI

Während die Bedrohung durch böswillige Akteure, die KI zur Durchführung von Angriffen nutzen, weit verbreitet diskutiert wurde, sagt Peter Garraghan, CEO und CTO von Midgard, das speziell Cybersicherheit für KI bietet: „Das Problem, das ich im Sinn habe, ist eine Cybersicherheitsbedrohung für KI, die das Thema ist.“

Vorhersehbar bezieht sich die häufigste und damit gefährdete Nutzung von KI durch Unternehmen auf Chatbots, die als Kundenservice dienen und deren Tonfall und Daten typischerweise für die Organisationen, die sie repräsentieren, angepasst sind. Hier entschied sich Dr. Garraghan, ein Informatikprofessor an der Lancaster University, der sich auf KI-Sicherheit und -Systeme spezialisiert hat, Mindgard im Jahr 2022 zu gründen. „KI ist keine Magie“, sagt er. Sie ist lediglich eine Kombination aus zusätzlichem Code, Daten und Hardware. Angesichts moderner Cyberbedrohungen können all diese Gefahren auch in KI manifest werden.

Stellen wir es uns so vor: Angenommen, ein Angreifer nutzt einen als SQL-Injection bekannten Prozess. Ein Angreifer kann diesen Prozess nutzen, um Schwachstellen in Webformularfeldern wie der Website-Anmeldung oder dem Kontaktformular auszunutzen. Eine weitere Möglichkeit, wie die Ingestion von Telepromptern genutzt werden kann, ist die Prompt-Injection, die in öffentlichen Anwendungen eingesetzt wird. Erstens können KI-Tools, wenn die Sicherheit nicht angemessen gewährleistet ist, praktisch dazu gezwungen werden, ihren Quellcode und ihre Anweisungen, das geistige Eigentum des Unternehmens oder Kundendaten preiszugeben. Zweitens können KI-Tools wie andere Softwareanwendungen reverse-engineered werden, um Fehler zu identifizieren.

Sicherung von KI-Systemen

Garraghan spricht von der Schwere des Problems: In der vorgesehenen Zukunft, in ein paar Jahren, kann der Faktor der nationalen Sicherheit entstehen, oder die benachteiligten Menschen könnten in Gefahr sein. Die neuen Informationen wirken wie eine Warnung: Ein Unternehmen sollte vorsichtig sein mit freigegebenen Daten.

Garraghan sagt: „Darüber hinaus kann KI als Werkzeug für Cyberangriffe dienen, bei dem Daten geleakt werden; das Modell wird in der Lage sein, die von Ihnen angeforderten Daten so freundlich wie möglich bereitzustellen.“ Als Beispiel im Januar suchte die rechtsgerichtete Social-Media-Plattform Gab nach Tutorials, die versehentlich ihre Anweisungen preisgaben. Die auf GPT basierende Plattform OpenAI hatte zuvor ebenfalls Probleme mit der Missbrauch ihrer Modelle.

Garraghan behauptet, dass Informationen durch unbefugte VoIP-Angriffe erlangt werden können. Außerdem kann die KI reverse-engineered werden, und das System kann umgangen oder dazu gebracht werden, offenen Zugriff auf andere Systeme zu gewähren. Somit könnte der Datenleck eine der Hauptkategorien sein, die alle Branchen durchzieht, einschließlich solcher, die nach außen oder innen gerichtet sind. Er zählt auch andere Risiken auf, wie die Modellumgehung, bei der das Modell durch die Erfindung betrügerischer Daten in die Irre geführt oder absichtlich umgangen wird.

Garraghan wies darauf hin, dass das Einfügen bösartiger Befehle oder das Verunreinigen von Daten mit falsch konzipierten Lösungen in Audiospuren eine weitere Bedrohung darstellt. Darüber hinaus merkt er an, dass der allgemeine Cyber-Einfluss der Rufschädigung entspricht, die häufig nach Cyberangriffen auftritt. Ebenso sind die Bereiche, die am größtenem Risiko für die negativen Folgen dieser Art von Cyberangriffen ausgesetzt sind, dort, wo die Einsätze am höchsten sind. Mit vielen Branchen und Institutionen, die online operieren, sind die öffentliche Sicherheit und das Fehlen von geleakten vertraulichen Informationen wichtige Werte, die Finanzdienstleistungs- und Gesundheitssektoren priorisieren sollten.

Garraghan sagt: Der Zusammenhang hier ist, dass Sie in Ihrer Branche strukturierter und kontrollierender sind und je mehr Risiken Sie durch KI (und auch durch Erfahrung: je weniger Sie KI nutzen, desto weniger adoptieren Sie sie) ausgesetzt sind, desto schlechter ist Ihre KI. Vielleicht sind sie nicht die Faulsten. Zum Beispiel durchlaufen sie möglicherweise nur die schwerwiegendsten Phasen ihres Lebens.

Proaktive KI-Sicherheitsmaßnahmen

KI wird diese Risiken in jedem einzelnen Unternehmen bewältigen, obwohl er sagt, dass dies Schichten von Sicherheitsmaßnahmen erfordert (da KI im Geschäftsbereich bereits deren benötigt) zum Schutz der Benutzer. „Sie haben bereits Cybersicherheitstools, die auf verschiedene Sektoren spezialisiert sind“, sagt Garraghan. „Dies können Tools zur Verwaltung der Sicherheitslage, Erkennungs- und Reaktionstools, Firewalls und Unterstützung für das Shift-Left-Design sein, wie z. B. Code-Scanning. Sie werden bald KI im Einklang mit der digitalen Transformation benötigen.“ Die Gattung ist ausschließlich auf KI und ML spezialisiert, während Systeme wie neuronale Netze nur gelegentlich erwähnt werden.

Sie benötigen einen Anwendungsscanner für neuronale Netze, ein Reaktionssystem für alle Arten von neuronalen Netzen, Sicherheitstests und Red-Teaming für eine bessere Kontrolle zwischen Apps, und Sie benötigen ein Reaktionssystem für alle Arten von neuronalen Netzen. Es ist einfacher, sie frühzeitig zu beheben und zu korrigieren, anstatt Laufzeitprobleme zu haben. Die beste Praxis, die wir Organisationen empfehlen, die KI-Modelle oder gekaufte KI-Anwendungen und -Dienste nutzen, ist jedoch, dass es einfacher ist, alle Probleme mit Modellen zu beheben, bevor sie in die Produktion gehen. Danach, nachdem sie in die Produktion gegangen sind, können nur noch Probleme identifiziert werden, die behoben werden müssen.