Hugging Face、セキュリティ向上のための問題に対処

Hugging Faceは、ハッカーに脆弱な多数のAIモデルをテストと評価のために受け入れている。人工知能の適応率はかつてないほど高い。この熱狂は多くの有益なツールの開発に役立ったが、同時に、ハッカーが悪意のある戦略を実行するためのより速く簡単な手段を提供した。Hugging Faceについて言えば、ハッカーは独自のコードを実行することでユーザー情報を取得する方法を持っていた。 

クラウドセキュリティ企業のWIZの研究者によると、機械学習（ML）モデルが実行されるシステムアーキテクチャに2つの大きな欠陥があった。共有推論インフラストラクチャの乗っ取りリスクと共有継続的インテグレーションおよび継続的デプロイメント（CI/CD）の乗っ取りリスクというこれらの欠陥により、ユーザーはブラックハットジャックの手に委ねられた。簡単に言えば、これらの欠陥はハッカーがコードをアップロードするための秘密の経路を提供し、レジストリを改ざんする手段を与えた。 

Hugging FaceとWIZの、欠点を探索するためのパートナーシップ

Hackers could unauthorizedly access other users’ data by uploading their own malicious AI models. This was a big problem and could make a potential dent in Hugging Face’s reputation as these platforms are extensively used for storing and processing AI models as an AI as a service platform (AlaaS). WIZ partnered with AaaS companies to find security vulnerabilities in these platforms. In the case of Hugging Face, its immense popularity and adoption brought it on the radar of hackers. WIZ’s collaboration provided a good opportunity for Hugging Face to mediate the shortcomings in its system and strengthen the platform’s security measures.

私たちが知っているように、AIモデルは機能を実行するために高いGPUパワーを必要とするため、スタートアップやその他の小規模ベンダーはAIサービスプロバイダー企業に依存している。Hugging FaceのインターフェースAPIも同じサービスを提供している。その過程で、WIZ ResearchはHugging Faceサービスを侵害するいくつかの悪意のある機能を持つ独自の悪意のあるAIモデルを実行した。これによりシステムは脆弱になり、WIZはHugging Faceサービスを利用している他の顧客モデルにアクセスできた。 

Alaasプラットフォームの保護のための解決策と対策

WIZはブログで、これらの欠点と発見はHugging Faceのみを悩ませているのではなく、AI as a service業界全体により広範な影響を及ぼすと述べた。ハッカーはこれらをAIモデルのGitHubとして見なしており、不正にユーザー間アクセスを取得しようとしているため、業界のすべてのプレイヤーが規模のリスクにさらされている。

Hugging FaceとWizは、セキュリティ侵害を防ぐためのいくつかの予防策を共同で提案した。彼らは厳格なセキュリティ制御と活動の定期的な監視を推奨した。また、セキュアなレジストリの使用と、コードを保存する場所をより厳重に防護してユーザー間アクセスを防ぐことで、ユーザーアプリケーションの実行にサンドボックス環境を提供することを提案した。