Protect AI、Guardianをリリースして機械学習モデルを悪意のあるコードから保護

AI セキュリティの主要プレイヤーであるProtect AIは、最新のイノベーションであるGuardianを発表しました。この最先端のソリューションは、組織が機械学習モデルに対して堅牢なセキュリティポリシーを適用し、悪意のあるコードがAI環境に侵入しないようにすることを可能にします。

Protect AIのオープンソースツールであるModelScanの基盤の上に構築されたGuardianは、オープンソースの機能と独自のスキャン機能を組み合わせ、企業向けの包括的なモデルセキュリティを提供します。

民主化されたAI/MLのリスクへの対処

人工知能と機械学習の民主化は、Hugging Faceなどのプラットフォーム上で基礎的なモデルが広く利用可能になることをもたらしました。これらのモデルは毎月何百万人ものユーザーによってダウンロードされ、幅広いAIアプリケーションのパワーソースとして重要な役割を果たしています。 

しかし、このアクセシビリティはまた、セキュリティの脆弱性ももたらしました。これらのリポジトリでのファイルのオープンな交換は、意図せずにもユーザー間で悪意のあるソフトウェアの拡散を促進する可能性があります。

Protect AIのCEO、Ian Swanson氏は次のように述べています。「機械学習モデルは組織のインフラストラクチャにおける不可欠な資産となっていますが、他のファイルタイプが使用前に受けるような厳格なウイルスおよび悪意のあるコードのスキャンがしばしば欠如しています。 

Hugging Faceなどのプラットフォームから毎月何千ものモデルが何百万回もダウンロードされる中、危険なコードが侵入する可能性は大きいです。Guardianは、顧客がオープンソースモデルのセキュリティに対する制御を取り戻すことを可能にします。」

Guardian：モデルシリアライゼーション攻撃からの保護

オープンに共有された機械学習モデルに関連する重要なリスクの一つは、モデルシリアライゼーション攻撃です。これは、マルウェアコードがシリアライゼーション（保存）中、および配布前にモデルに注入されることで発生し、トロイの木馬の現代的なバージョンを作成します。 

モデル内に埋め込まれると、この隠された悪意のあるコードは実行され、機密データの窃取、資格情報の侵害、データ操作などが行われる可能性があります。これらのリスクは、Hugging Faceなどの大規模リポジトリでホストされているモデルで一般的です。

Protect AIは以前、ModelScanをリリースしました。これは、潜在的な攻撃からAI/MLモデルをスキャンし、サプライチェーンの脆弱性からシステムを守るために設計されたオープンソースツールです。創設以来、Protect AIはModelScanを使用してHugging Faceでホストされている40万モデル以上を評価し、セキュリティ上の欠陥があるモデルを特定し、このナレッジベースを継続的に更新してきました。

これまでに、3,300以上のモデルが不正コードを実行する能力を持っていることが発見されています。これらのモデルは、採用前に潜在的なリスクをスキャンするための適切なセキュリティ対策なしに、ML環境内で引き続きダウンロードおよびデプロイされています。

Guardian：モデル開発とデプロイメントへの安全なゲートウェイ

他のオープンソースの代替手段とは異なり、Protect AIのGuardianは安全なゲートウェイであり、Hugging Faceやその他のモデルリポジトリに依存するML開発とデプロイメントのプロセス間のギャップを埋めます。 

Guardianは、Kerasラムダ層用の専用スキャナーを含む独自のプロプライエタリな脆弱性スキャナーを採用し、オープンソースモデルを悪意のあるコードに対してプロアクティブに検査し、組織内のネットワーク内で安全かつポリシー準拠のモデルの利用を保証します。

強化されたアクセス制御と包括的な洞察

Guardianは、高度なアクセス制御機能と直感的なダッシュボードを提供し、セキュリティチームに モデル の入力を完全に制御させながら、モデルの起源、作成者、およびライセンスに関する包括的な洞察を提供します。このレベルの透明性は、組織がAI環境に取り入れるモデルについて情報に基づいた決定を下すことを保証します。

さらに、Guardianは既存のセキュリティフレームワークと統合し、Protect AIのRadarを補完することで、組織内のAIおよび機械学習に対する広範な脅威サーフェスの可視性を提供します。