Protect AI führt Guardian ein, um Modelle des maschinellen Lernens vor Schadcode zu schützen

Protect AI, ein führender Anbieter von KI- Sicherheit, hat seine neueste Innovation Guardian vorgestellt. Diese innovative Lösung ermöglicht es Unternehmen, robuste Sicherheitsrichtlinien für ihre Machine-Learning-Modelle durchzusetzen und so zu verhindern, dass Schadcode in ihre KI-Umgebungen eindringt. 

Guardian baut auf dem Open-Source-Tool ModelScan von Protect AI auf und kombiniert Open-Source-Funktionen mit proprietären Scanfunktionen, um Unternehmen umfassende Modellsicherheit zu bieten.

Die Risiken einer demokratisierten KI/ML angehen

Die Demokratisierung von künstlicher Intelligenz und maschinellem Lernen hat zur weitverbreiteten Verfügbarkeit grundlegender Modelle auf Plattformen wie Hugging Face geführt. Diese Modelle, die monatlich von Millionen von Nutzern heruntergeladen werden, spielen eine entscheidende Rolle für eine Vielzahl von KI-Anwendungen. 

Diese Zugänglichkeit hat jedoch auch Sicherheitslücken mit sich gebracht, da der offene Austausch von Dateien in diesen Repositories unbeabsichtigt die Verbreitung von Schadsoftware unter den Benutzern erleichtern kann.

Ian Swanson, CEO von Protect AI, erklärte: „Maschinelle Lernmodelle sind zu einem unverzichtbaren Bestandteil der Infrastruktur einer Organisation geworden, doch oft mangelt es ihnen an den strengen Viren- und Schadcode-Scans, denen andere Dateitypen vor der Verwendung unterzogen werden.“. 

Da monatlich Tausende von Modellen millionenfach von Plattformen wie Hugging Face heruntergeladen werden, ist das Risiko, dass Schadcode eingeschleust wird, erheblich. Guardian ermöglicht es Kunden, die Kontrolle über die Sicherheit von Open-Source-Modellen zurückzugewinnen

Guardian: Schutz vor Modellserialisierungsangriffen

Eines der größten Risiken im Zusammenhang mit öffentlich zugänglichen Modellen des maschinellen Lernens ist der Angriff durch Modellserialisierung. Dieser tritt auf, wenn Schadcode während der Serialisierung (des Speicherns) und vor der Verteilung in ein Modell eingeschleust wird, wodurch eine moderne Version des Trojaners entsteht. 

Sobald dieser versteckte Schadcode in ein Modell eingebettet ist, kann er ausgeführt werden, um sensible Daten zu stehlen,dentzu kompromittieren, Daten zu manipulieren und vieles mehr. Diese Risiken sind bei Modellen, die in großen Repositories wie Hugging Face gehostet werden, weit verbreitet.

Protect AI hat zuvor ModelScan veröffentlicht, ein Open-Source-Tool zum Scannen von KI/ML-Modellen auf potenzielle Angriffe, um Systeme vor Schwachstellen in der Lieferkette zu schützen. Seit seiner Einführung hat Protect AI ModelScan genutzt, um über 400.000 auf Hugging Face gehostete Modelle zu analysieren, Sicherheitslücken zudentund diese Wissensdatenbank kontinuierlich zu aktualisieren.

Bislang wurden über 3.300 Modelle entdeckt, die in der Lage sind, Schadcode auszuführen. Diese Modelle werden weiterhin heruntergeladen und in ML-Umgebungen eingesetzt, ohne dass ausreichende Sicherheitsmaßnahmen getroffen werden, um sie vor der Verwendung auf potenzielle Risiken zu überprüfen.

Guardian: Das sichere Tor zur Modellentwicklung und -bereitstellung

Anders als andere Open-Source-Alternativen ist Protect AIs Guardian ein sicheres Gateway, das die Lücke zwischen ML-Entwicklungs- und Bereitstellungsprozessen schließt, die auf Plattformen wie Hugging Face und anderen Modell-Repositories basieren. 

Guardian verwendet firmeneigene Schwachstellenscanner, darunter einen spezialisierten Scanner für Keras Lambda-Layer, um Open-Source-Modelle proaktiv auf Schadcode zu überprüfen und so die Verwendung sicherer, richtlinienkonformer Modelle in Unternehmensnetzwerken zu gewährleisten.

Verbesserte Zugriffskontrolle und umfassende Einblicke

Guardian bietet fortschrittliche Zugriffskontrollfunktionen und intuitive Dashboards, die Sicherheitsteams die vollständige Kontrolle über den Modellzugriff und gleichzeitig umfassende Einblicke in Modellursprung, Entwickler und Lizenzierung bieten. Diese Transparenz stellt sicher, dass Unternehmen fundierte Entscheidungen über die in ihre KI-Umgebungen integrierten Modelle treffen können.

Darüber hinaus integriert sich Guardian in bestehende Sicherheitsframeworks und ergänzt Protect AIs Radar, wodurch eine umfassende Transparenz der Bedrohungsfläche für KI und maschinelles Lernen innerhalb von Organisationen ermöglicht wird.