Hugging Faceは、ハッカーにとって脆弱なAIモデルをテストと評価のために大量に受け入れています。AIの適応率はかつてないほど高くなっています。この急速な発展は、多くの有益なツールの開発に貢献しましたが、同時に、ハッカーにとって悪意のある戦略をより迅速かつ容易に実行できる手段を提供することにもなりました。Hugging Faceと言えば、ハッカーは独自のコードを実行することでユーザー情報を取得する手段を持っていました。
クラウドセキュリティ企業WIZの研究者によると、機械学習（ML）モデルが実行されるシステムアーキテクチャには、2つの重大な欠陥がありました。これらの欠陥、すなわち共有推論インフラストラクチャの乗っ取りリスクと、共有継続的インテグレーションおよび継続的デプロイメント（CI/CD）の乗っ取りリスクにより、ユーザーはブラックハットジャックの餌食となっていました。簡単に言えば、これらの欠陥はハッカーがコードをアップロードするための秘密の方法を提供し、レジストリを改ざんする手段を与えていたのです。
ハギングフェイスとWIZのパートナーシップで欠点を調査
ハッカーは、悪意のあるAIモデルをアップロードすることで、他のユーザーのデータに不正にアクセスする可能性がありました。これは大きな問題であり、 Hugging Faceの評判にdentAIモデルのているためです。WIZは、これらのプラットフォームのセキュリティ上の脆弱性を見つけるために、AaaS企業と提携しました。Hugging Faceの場合、その圧倒的な人気と普及率の高さが、ハッカーのレーダーに引っかかっていました。WIZとの連携は、Hugging Faceにとってシステムの欠陥を補い、プラットフォームのセキュリティ対策を強化する絶好の機会となりました。
ご存知の通り、AIモデルは機能を実行するために高いGPUパワーを必要とするため、スタートアップ企業や小規模ベンダーはAIサービスプロバイダー企業に依存しています。Hugging FaceのインターフェースAPIもまさに同じサービスを提供しています。しかし、WIZ Researchは、いくつかの悪質な機能を備えた独自のAIモデルを実行し、Hugging Faceサービスを侵害しました。これによりシステムが脆弱になり、WIZはHugging Faceサービスを利用している他の顧客モデルにアクセスできるようになりました。
Alaasプラットフォームの保護のためのソリューションと対策
WIZはブログで、これらの欠陥と発見はHugging Faceだけの問題ではなく、AI as a Service業界全体に広範な影響を及ぼすと述べています。ハッカーはHugging FaceをAIモデルのGitHubと見なし、不正にクロスユーザーアクセスを試みるため、業界のすべてのプレーヤーが甚大な被害を受けるリスクにさらされています。
Hugging FaceとWizは共同で、セキュリティ侵害を防ぐための予防策を提案し、厳格なセキュリティ管理と定期的な活動監視を推奨しました。また、安全なレジストリの使用や、コード保存場所のセキュリティを強化してユーザー間のアクセスを防ぐことで、ユーザーアプリケーション実行のためのサンドボックス環境を提供することも提案しました。
