Neue KI-Sicherheitsmaßnahmen von CISA vorgestellt

Die Cybersecurity and Infrastructure Security Agency (CISA) hat neue Empfehlungen im Einklang mit dem Schwerpunkt des Department of Homeland Security (DHS) auf KI-Sicherheit enthüllt, der kürzlich durch die Einrichtung eines speziellen Sicherheits- und Sicherheitsausschusses hervorgehoben wurde.

CISA-Richtlinien für KI-Sicherheit in kritischen Sektoren

Die gerade veröffentlichten Richtlinien sind für die Eigentümer und Betreiber der sechs als kritische Infrastrukturen ausgewiesenen Sektoren gedacht, die von Bereichen wie Landwirtschaft, Gesundheitswesen und Informationstechnologie bedient werden. Diese Richtlinie ist ein minimal erforderlicher Satz, der das KI-System durch den Einsatz verantwortungsvoller KI-Technologien sicher und widerstandsfähig macht. Diese Beratungsansätze bieten Leitlinien für Governance, Risikobewertung und kontinuierliches Management von KI-bezogenen Prozessen.

Betreiber können das KI-Risikomanagement-Framework des NIST übernehmen, um die Auswirkungen und Risiken im Zusammenhang mit KI-Implementierungen kontinuierlich zu bewerten. Dazu gehören die Identifizierung, wo KI-Abhängigkeiten liegen, und die Umweltauswirkungen, die Technologien haben, sowie der Versuch, jede aufgeworfene Verwundbarkeit anzugehen. Die Richtlinien empfehlen Regeln, die an die Durchführung von KI-Inventaren von Verwendungen und die Erstellung spezieller Verfahren zur Meldung von KI-bezogenen Sicherheitsrisiken erinnern.

CISA erkennt an, dass CISOs den kritischen Pfad der KI-Lieferkette kennen und KI-Systeme testen müssen, um Sicherheitslücken zu identifizieren. Durch die Betonung bestimmter Bereiche stehen Infrastrukturbetreiber breiten KI-bezogenen Risiken gegenüber, einschließlich Designfehlern, Cyberangriffen und physischen Sicherheitsverletzungen.

Die doppelte Rolle der KI in kritischer Infrastruktur

Das Dokument zeigt, dass KI die Chance hat, das Management kritischer Infrastrukturen zu transformieren, indem es eine weitreichende Erfassung der externen Umgebung einführt, den Kundenservice automatisiert, die physische Sicherheit verbessert und die Prognosegenauigkeit verbessert. 

Während diese Innovation dazu beitragen wird, die Infrastruktursysteme insgesamt robuster zu machen, ist es auch möglich, dass sie sie neuen Formen von Angriffen und Ausfällen aussetzt.

Diese Richtlinien sind nur ein Element der breiteren Initiativen des Department of Homeland Security, die darauf abzielen, die Komplexitäten der Integration von KI-Technologie in ihre nationalen Sicherheitsrahmen zu bewältigen. Die Allgegenwart der KI ist zweigeteilt: die Einführung dieser bahnbrechenden Technologie und die Bedrohung, die sie für sensible Infrastrukturen kritischer Systeme darstellt, erinnert Homeland Security Secretary Alejandro Mayorkas. Die Risikogruppe ist sehr reaktiv auf die Situation und führt strategische Initiativen durch, um die verborgenen Gefahren durch Expertenkolaboration zu identifizieren und zu mildern.

KI-Initiativen des DHS

Das DHS präsentierte seine KI-Strategie zu Beginn des Jahres, legte die DBDS-Roadmap dar und kündigte die Einführung von AI Corps an. Dieses Team 2024 sollte aus 50 Spezialisten bestehen, die als qualifizierte Experten zitiert werden sollen, um die KI-Fähigkeiten der Agentur zu stärken. Der neue Ausschuss wird Schwwergewichte im Technologiesektor umfassen, wie Sam Altman von OpenAI und Sundar Pichai, der das Alphabet-Unternehmen vertritt.

Der Auftrag der CISA in den neuen KI-Richtlinien besteht nicht nur darin, ihre Pflichten gemäß der jüngsten, von der Biden-Regierung erlassenen Exekutivverordnung zu KI-bezogenen Themen zu erfüllen, sondern auch das erste Beispiel für ähnliche Risikoanalysen zu setzen, die in verschiedenen Bereichen der Gesellschaft durchgeführt werden können. Auf diese Weise unterstreicht die US-Regierung ihre Führungsrolle in der „Sicherheitsmatrix kritischer Infrastrukturen“, die heute stark mit künstlicher Intelligenz korreliert.