- Protect AI의 Guardian는 악성코드로부터 AI 모델, 데이터 및 시스템을 보호합니다.
- 오픈소스 모델을 스캔하여 숨겨진 위협을 찾아내고 안전한 AI 사용을 보장합니다.
- Guardian은 기존 환경에 쉽게 통합되며 제어와 보안을 제공합니다.
AI 보안의 선도적인 기업인 Protect AI는 최신 혁신 제품인 Guardian을 공개했습니다. 이 최첨단 솔루션은 조직이 머신러닝 모델에 강력한 보안 정책을 적용하여 악성 코드가 AI 환경에 침투하지 않도록 보장합니다.
Protect AI의 오픈소스 도구인 ModelScan을 기반으로 구축된 Guardian은 오픈소스 기능과 독점 스캔 기능을 결합하여 기업에 포괄적인 모델 보안을 제공합니다.
민주화된 AI/ML의 위험 대응
인공지능과 머신러닝의 민주화는 Hugging Face와 같은 플랫폼에서 기초 모델의 광범위한 가용성을 가져왔습니다. 이러한 모델은 매달 수백만 명의 사용자에게 다운로드되며 광범위한 AI 애플리케이션을 지원하는 중요한 역할을 합니다.
그러나 이러한 접근성은 보안 취약점을 도입하기도 했습니다. 이러한 저장소 간 파일의 개방적 교환은 우연히라도 사용 간 악성 소프트웨어의 확산을 용이하게 할 수 있기 때문입니다.
Protect AI의 CEO인 Ian Swanson은 “머신러닝 모델은 조직의 인프라에서 필수적인 자산이 되었지만, 다른 파일 유형이 사용하기 전에 받는 엄격한 바이러스 및 악성 코드 스캔이 종종 누락되어 있습니다라고 말했습니다.
매달 Hugging Face와 같은 플랫폼에서 수천 개의 모델이 수백만 번 다운로드되면서 위험한 코드가 침투할 가능성이 큽니다. Guardian은 고객이 오픈소스 모델의 보안에 대한 통제권을 다시 회복할 수 있도록 지원합니다.”
Guardian: 모델 직렬화 공격으로부터 보호
공개적으로 공유된 머신러닝 모델과 관련된 중요한 위험 중 하나는 모델 직렬화 공격입니다. 이는 맬웨어 코드가 직렬화(저장) 중 및 배포 전에 모델에 주입되어 트로이 목마의 현대적 버전을 생성할 때 발생합니다.
모델 내에 삽입되면 이 숨겨진 악성 코드는 실행되어 민감한 데이터를 도용하거나, 자격 증명을 침해하거나, 데이터를 조작하는 등 다양한 위험을 초래할 수 있습니다. 이러한 위험은 Hugging Face와 같은 대형 저장소에 호스팅된 모델에서 흔합니다.
Protect AI는 이전에 AI/ML 모델의 잠재적 공격을 스캔하여 공급망 취약성으로부터 시스템을 보호하도록 설계된 오픈소스 도구인 ModelScan을 출시했습니다. 설립 이후 Protect AI는 ModelScan을 사용하여 Hugging Face에 호스팅된 400,000개 이상의 모델을 평가하여 보안 결함이 있는 모델을 식별하고 이 지식베이스를 지속적으로 업데이트해 왔습니다.
현재까지 3,300개 이상의 모델이 악성 코드를 실행할 수 있는 능력을 가진 것으로 발견되었습니다. 이러한 모델은 채택 전에 잠재적 위험을 스캔하기 위한 적절한 보안 조치 없이 ML 환경에서 계속 다운로드 및 배포되고 있습니다.
Guardian: 모델 개발 및 배포를 위한 안전한 게이트웨이
다른 오픈소스 대안과 달리, Protect AI의 Guardian은 Hugging Face 및 기타 모델 저장소와 같은 플랫폼에 의존하는 ML 개발 및 배포 프로세스 사이의 격차를 메우는 안전한 게이트웨이입니다.
Guardian은 Keras lambda 레이어를 위한 전용 스캐너를 포함한 독점 취약점 스캐너를 사용하여 오픈소스 모델을 사전에 검사하여 악성 코드를 확인하고, 조직 네트워크 내에서 보안 정책 준수 모델을 안전하게 사용하도록 보장합니다.
향상된 접근 제어 및 포괄적인 통찰력
Guardian은 고급 접근 제어 기능과 직관적인 대시보드를 제공하여 보안 팀이 모델 진입에 대한 완전한 통제권을 행사하도록 하며, 모델의 기원, 제작자 및 라이선싱에 대한 포괄적인 통찰력을 제공합니다. 이러한 수준의 투명성은 조직이 AI 환경에 통합할 모델에 대해 정보에 기반한 결정을 내릴 수 있도록 보장합니다.
또한 Guardian은 기존 보안 프레임워크와 통합되고 Protect AI의 Radar를 보완하여 조직 내 AI 및 머신러닝에 대한 광범위한 위협 표면 가시성을 제공합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Brian Koome
브라이언 쿰은 2017 년 이후 블록체인 및 암호화폐 업계에서 활동해 온 7 년 이상의 경험을 보유하고 있습니다. BlockToday.com 을 포함한 주요 출판사에 기고했으며, BitDegree.org 에서 이더리움 101 과정을 개발한 후 Cryptopolitan 의 전속 작가로 합류했습니다. 브라이언은 에버그린 가이드 (EG), 심층 분석, 인터뷰, 가격 분석을 다루며 DeFi, 블록체인 혁신, 그리고 신흥 암호화폐 프로젝트에 집중하여 독자들에게 큰 호응을 얻고 있습니다.
