Protect AI startet Guardian, um Machine-Learning-Modelle vor bösartigem Code zu schützen

Protect AI, ein führender Akteur in KI-Sicherheit, hat seine neueste Innovation, Guardian, vorgestellt. Diese hochmoderne Lösung befähigt Organisationen, robuste Sicherheitsrichtlinien für ihre Machine-Learning-Modelle durchzusetzen und sicherzustellen, dass bösartiger Code nicht in ihre KI-Umgebungen eindringt.

Aufbauend auf der Grundlage von Protect AIs Open-Source-Tool ModelScan kombiniert Guardian Open-Source-Fähigkeiten mit proprietären Scanning-Funktionalitäten und bietet umfassende Modellsicherheit für Unternehmen.

Bewältigung der Risiken demokratisierter KI/ML

Die Demokratisierung der künstlichen Intelligenz und des maschinellen Lernens hat zur weit verbreiteten Verfügbarkeit von Grundmodellen auf Plattformen wie Hugging Face geführt. Diese Modelle, die jeden Monat von Millionen von Nutzern heruntergeladen werden, spielen eine entscheidende Rolle bei der Unterstützung einer breiten Palette von KI-Anwendungen. 

Diese Zugänglichkeit hat jedoch auch Sicherheitsanfälligkeiten eingeführt, da der offene Austausch von Dateien in diesen Repositorien unbeabsichtigt die Verbreitung von schädlicher Software unter Nutzern erleichtern kann.

Ian Swanson, CEO von Protect AI, erklärte: „Machine-Learning-Modelle sind zu integralen Vermögenswerten in der Infrastruktur einer Organisation geworden, doch oft fehlt ihnen die rigorose Viren- und bösartige Code-Scannung, die andere Dateitypen vor der Nutzung erhalten. 

Mit Tausenden von Modellen, die jeden Monat Millionen Male von Plattformen wie Hugging Face heruntergeladen werden, ist das Potenzial für das Eindringen gefährlichen Codes erheblich. Guardian befähigt Kunden, die Kontrolle über die Sicherheit von Open-Source-Modellen zurückzugewinnen.“

Guardian: Schutz vor Modell-Serialisierungsangriffen

Eines der kritischen Risiken, die mit offen geteilten Machine-Learning-Modellen verbunden sind, ist der Model-Serialization-Angriff. Dies tritt auf, wenn Malware-Code während der Serialisierung (Speicherung) und vor der Verteilung in ein Modell injiziert wird, was eine moderne Version des Trojanischen Pferdes schafft. 

Einmal in ein Modell eingebettet, kann dieser verborgene bösartige Code ausgeführt werden, um sensible Daten zu stehlen, Anmeldeinformationen zu kompromittieren, Daten zu manipulieren und mehr. Diese Risiken sind in Modellen, die auf großen Repositorien wie Hugging Face gehostet werden, weit verbreitet.

Protect AI hat zuvor ModelScan gestartet, ein Open-Source-Tool, das darauf ausgelegt ist, KI/ML-Modelle auf potenzielle Angriffe zu scannen und Systeme vor Lieferkettenanfälligkeiten zu schützen. Seit seiner Einführung hat Protect AI ModelScan genutzt, um über 400.000 auf Hugging Face gehostete Modelle zu bewerten, Modelle mit Sicherheitsmängeln zu identifizieren und diese Wissensdatenbank kontinuierlich zu aktualisieren.

Bisher wurden mehr als 3.300 Modelle entdeckt, die die Fähigkeit besitzen, rogue Code auszuführen. Diese Modelle werden weiterhin heruntergeladen und in ML-Umgebungen bereitgestellt, ohne angemessene Sicherheitsmaßnahmen, um sie vor der Annahme auf potenzielle Risiken zu scannen.

Guardian: Das sichere Tor zur Modellentwicklung und -bereitstellung

Im Gegensatz zu anderen Open-Source-Alternativen ist Protect AIs Guardian ein sicheres Tor, das die Lücke zwischen ML-Entwicklungs- und Bereitstellungsprozessen schließt, die auf Plattformen wie Hugging Face und anderen Modell-Repositories basieren. 

Guardian verwendet proprietäre Schwachstellenscanner, einschließlich eines spezialisierten Scanners für Keras-Lambda-Schichten, um Open-Source-Modelle proaktiv auf bösartigen Code zu inspizieren und so die Nutzung sicherer, richtlinienkonformer Modelle innerhalb organisationaler Netzwerke zu gewährleisten.

Erweiterte Zugriffskontrolle und umfassende Einblicke

Guardian bietet erweiterte Zugriffskontrollfunktionen und intuitive Dashboards, die Sicherheitsteams die vollständige Kontrolle über den Modell-Zugriff gewähren, während umfassende Einblicke in Modellursprünge, Ersteller und Lizenzierung geboten werden. Dieses Maß an Transparenz stellt sicher, dass Organisationen fundierte Entscheidungen über die Modelle treffen können, die sie in ihre KI-Umgebungen integrieren.

Darüber hinaus integriert sich Guardian in bestehende Sicherheitsframeworks und ergänzt Protect AIs Radar und bietet umfassende Sichtbarkeit der Bedrohungsfläche für KI und maschinelles Lernen innerhalb von Organisationen.