Warum fordert die CISA ein sicheres KI-Design, das an die Kernsicherheit gekoppelt ist?

Die US-Behörde für Cybersicherheit und kritische Infrastrukturen (CISA) hat die Notwendigkeit unterstrichen, Sicherheit in den Kern von künstlicher Intelligenz (KI)-Systemen während ihrer Entwicklungsphasen zu integrieren. Dieser proaktive Ansatz, wie von der CISA befürwortet, zielt darauf ab, zu verhindern, dass Schwachstellen nach der Bereitstellung entstehen, ein Szenario, das nicht nur komplex, sondern auch kostspielig zu beheben ist. Der Aufruf der Agentur für sicheres KI-Design ist Teil ihrer breiteren Kampagne, Sicherheit nahtlos in die Design- und Entwicklungsphasen zu integrieren, anstatt sie als nachträglichen Gedanken zu betrachten.

Sicherheit im Kern: CISAs laufende Mission

In ihrem kürzlichen Beitrag hat die CISA KI-Entwickler nachdrücklich aufgefordert, ein „Security-by-Design“-Paradigma zu übernehmen und das Prinzip zu unterstreichen, dass KI im Kern eine Form von Software ist. Die Agentur hat versucht, Missverständnisse rund um KI aufzuklären, indem sie deren grundlegend softwarebasierte Natur betonte, wodurch sie denselben Sicherheitsanforderungen unterliegt wie jede andere Software. Dies spiegelt einen langjährigen globalen Ansatz von Cybersicherheitsexperten wider, die Sicherheit als inhärenten Bestandteil und nicht als periphere Ergänzung betrachten.

Perspektivwechsel: Von der Externalität zum Engagement

CISA-Direktorin Jen Easterly unterstrich in einer Rede Anfang dieses Jahres die Notwendigkeit einer transformativen Verschiebung in der Wahrnehmung von Sicherheit innerhalb der Tech-Branche. Historisch wurde Sicherheit oft in den Hintergrund gedrängt, wobei ihre Kosten auf die Endnutzer externalisiert wurden. Easterly forderte eine vollständige Überarbeitung dieses Ansatzes und plädierte für ein erneuertes Engagement für Sicherheit, das darin besteht, sie in den Software-Entwicklungslebenszyklus zu integrieren. Darüber hinaus schlug Easterly eine Änderung der Haftungsverteilung vor und schlug vor, dass Softwareentwickler einen größeren Teil der Verantwortung übernehmen.

Maschinelles Lernen: Vernetzte Herausforderungen

Der Blog-Beitrag der CISA lenkt die Aufmerksamkeit auf die Komplexität des maschinellen Lernens und betont die eng verflochtene Natur seines Codes. Insbesondere kann jede Änderung an einem einzigen Eingabewert innerhalb eines KI-Systems weitreichende Folgen haben. Diese komplexe Interdependenz wurde in einem wegweisenden Papier von Google-Forschern aus dem Jahr 2014 unterstrichen, das ungelöste technische Herausforderungen in der KI-Entwicklung treffend als „die Kreditkarte mit hohen Zinsen der technischen Schulden“ bezeichnete.

Maßgeschneiderte Sicherheitspraktiken für KI

Während der Blog-Beitrag die Notwendigkeit von Security-by-Design für KI-Systeme anerkennt, erkennt er auch die einzigartigen Herausforderungen an, die KI mit sich bringt. Die CISA hat eine Liste wesentlicher, branchenübergreifender Sicherheitspraktiken zusammengestellt, die gleichermaßen auf KI-Software anwendbar sind. Die Agentur betont die Bedeutung der Einhaltung dieser Richtlinien, insbesondere angesichts von Fällen, in denen Bedrohungsakteure bekannte Schwachstellen in Nicht-KI-Softwarekomponenten ausnutzen.

Ganzheitlicher Ansatz zur KI-Sicherheit

CISA unterstreicht, dass etablierte, von der Community erwartete Sicherheitspraktiken und -richtlinien verschiedene Aspekte der KI-Entwicklung regeln sollten, einschließlich Design, Entwicklung, Bereitstellung, Testen, Datenmanagement, Systemintegration sowie Schwachstellen- und Incident-Management. In Fällen, in denen KI-Modell-Dateiformate verarbeitet werden, müssen robuste Maßnahmen vorhanden sein, um Versuche zur Ausführung von nicht vertrauenswürdigen Code zu vereiteln. Darüber hinaus wird die Verwendung von speichersicheren Sprachen als zusätzliche Schutzmaßnahme gegen potenzielle Bedrohungen empfohlen.

Rechenschaftspflicht und Transparenz in der KI-Ingenieurwissenschaft

Zusätzlich zu technischen Schutzmaßnahmen drängt die CISA die KI-Ingenieurcommunity, Praktiken zu übernehmen, die Rechenschaftspflicht und Transparenz fördern. Dies beinhaltet die Implementierung von Schwachstellen-Identifikatoren wie CVEs (Common Vulnerabilities and Exposures) und die Aufrechterhaltung eines umfassenden Software-Bill-of-Materials sowohl für KI-Modelle als auch für deren Abhängigkeiten. Datenschutzbedenken werden ebenfalls nicht vernachlässigt, da die Agentur die Einhaltung grundlegender Datenschutzprinzipien per Default fordert.

Ein entscheidender Moment für die KI-Sicherheit

CISAs leidenschaftlicher Aufruf zu Security-by-Design für KI markiert einen entscheidenden Wendepunkt im Bereich der KI-Entwicklung. Indem die Agentur die Sicherheit an die Spitze von Design und Entwicklung stellt, plädiert sie für einen Paradigmenwechsel, der potenziell erhebliche Sicherheitsverletzungen in der Zukunft verhindern könnte. In einer Welt, in der KI-Systeme immer allgegenwärtiger werden, könnte diese proaktive Haltung den Weg für eine sicherere und widerstandsfähigere digitale Landschaft ebnen.