Protect AI는 악성 코드로부터 머신러닝 모델을 보호하는 Guardian을 출시했습니다

의 선두 기업인 Protect AI가 AI 최신 혁신 기술인 Guardian을 공개했습니다. 이 최첨단 솔루션은 기업이 머신러닝 모델에 강력한 보안 정책을 적용하여 악성 코드가 AI 환경에 침투하지 못하도록 차단할 수 있도록 지원합니다. 

Protect AI의 오픈 소스 도구인 ModelScan을 기반으로 구축된 Guardian은 오픈 소스 기능과 독자적인 스캔 기능을 결합하여 기업에 포괄적인 모델 보안을 제공합니다.

민주화된 AI/ML의 위험성 해결

인공지능과 머신러닝의 대중화로 인해 Hugging Face와 같은 플랫폼에서 기초 모델들을 널리 이용할 수 있게 되었습니다. 매달 수백만 명의 사용자가 다운로드하는 이러한 모델들은 다양한 AI 애플리케이션을 구동하는 데 중요한 역할을 합니다. 

하지만 이러한 접근성은 보안 취약점도 야기했는데, 이러한 저장소에서 파일이 자유롭게 교환되면서 의도치 않게 사용자 간에 악성 소프트웨어가 확산될 수 있기 때문입니다.

Protect AI의 CEO인 이안 스완슨은 "머신러닝 모델은 조직 인프라의 필수적인 자산이 되었지만, 다른 파일 유형이 사용 전에 받는 엄격한 바이러스 및 악성 코드 검사를 거치지 않는 경우가 많습니다."라고 말했습니다. 

허깅페이스와 같은 플랫폼에서 매달 수천 개의 모델이 수백만 번 다운로드되는 상황에서 위험한 코드가 침투할 가능성은 매우 큽니다. 가디언은 고객이 오픈 소스 모델의 보안을 다시 제어할 수 있도록 지원합니다

Guardian: 모델 직렬화 공격으로부터 보호하기

공개적으로 공유되는 머신러닝 모델과 관련된 중요한 위험 중 하나는 모델 직렬화 공격입니다. 이 공격은 모델이 직렬화(저장)되는 과정에서, 즉 배포되기 전에 악성 코드가 삽입되어 트로이 목마의 현대판과 같은 형태로 나타나는 현상입니다. 

일단 모델 내부에 삽입되면, 이 은밀한 악성 코드는 민감한 데이터를 탈취하거나, 자격dent을 손상시키거나, 데이터를 조작하는 등의 행위를 위해 실행될 수 있습니다. 이러한 위험은 Hugging Face와 같은 대규모 저장소에 호스팅된 모델에서 흔히 발생합니다.

Protect AI는 이전에 AI/ML 모델의 잠재적 공격을 검사하여 공급망 취약점으로부터 시스템을 보호하는 오픈 소스 도구인 ModelScan을 출시했습니다. Protect AI는 출시 이후 ModelScan을 활용하여 Hugging Face에 호스팅된 40만 개 이상의 모델을 평가하고 보안 결함이 있는 모델을dent이 지식 기반을 지속적으로 업데이트해 왔습니다.

현재까지 3,300개 이상의 모델이 악성 코드를 실행할 수 있는 능력을 가진 것으로 밝혀졌습니다. 이러한 모델들은 적절한 보안 조치 없이 계속해서 다운로드되고 머신러닝 환경에 배포되고 있으며, 도입 전에 잠재적 위험을 검사하는 과정이 제대로 이루어지지 않고 있습니다.

Guardian: 모델 개발 및 배포를 위한 안전한 관문

다른 오픈 소스 대안과 달리 Protect AI의 Guardian은 안전한 게이트웨이로서, Hugging Face 및 기타 모델 저장소와 같은 플랫폼에 의존하는 머신러닝 개발 및 배포 프로세스 간의 격차를 해소합니다. 

Guardian은 Keras 람다 레이어용 특수 스캐너를 포함한 자체 개발 취약점 스캐너를 사용하여 오픈 소스 모델에서 악성 코드를 사전에 검사함으로써 조직 네트워크 내에서 안전하고 정책을 준수하는 모델을 사용할 수 있도록 보장합니다.

강화된 접근 제어 및 포괄적인 분석 기능

Guardian은 고급 액세스 제어 기능과 직관적인 대시보드를 제공하여 보안 팀이 모델 접근을 완벽하게 제어할 수 있도록 지원하는 동시에 모델의 출처, 제작자 및 라이선스에 대한 포괄적인 정보를 제공합니다. 이러한 투명성을 통해 조직은 AI 환경에 통합할 모델에 대해 정보에 입각한 결정을 내릴 수 있습니다.

또한 Guardian은 기존 보안 프레임워크와 통합되고 Protect AI의 Radar를 보완하여 조직 내 AI 및 머신 러닝에 대한 광범위한 위협 가시성을 제공합니다.