Hugging Face는 보안 강화를 위해 문제점을 해결했습니다

허깅페이스는 해커의 공격에 취약한 수많은 AI 모델을 테스트 및 평가용으로 제공받고 있습니다. 인공지능의 발전 속도는 전례 없는 수준입니다. 이러한 열풍은 유용한 도구들을 개발하는 데 기여했지만, 동시에 해커들이 악의적인 전략을 실행하기 위한 더욱 빠르고 쉬운 방법을 제공하기도 했습니다. 허깅페이스의 경우, 해커들은 자체 코드를 실행하여 사용자 정보를 탈취할 수 있었습니다. 

클라우드 보안 기업 WIZ의 연구원들에 따르면, 머신러닝(ML) 모델이 실행되는 시스템 아키텍처에 두 가지 주요 결함이 있었습니다. 이 결함, 즉 공유 추론 인프라 탈취 위험과 공유 지속적 통합 및 지속적 배포(CI/CD) 탈취 위험은 사용자를 악의적인 공격에 취약하게 만들었습니다. 다시 말해, 이러한 결함은 해커들이 코드를 몰래 업로드할 수 있는 경로를 제공하여 레지스트리를 변조할 수 있게 했습니다. 

허깅페이스와 위즈의 파트너십은 단점을 탐구하기 위해 마련되었습니다.

해커들은 악성 AI 모델을 업로드하여 다른 사용자의 데이터에 무단으로 접근할 수 있었습니다. 이는 AI 서비스 플랫폼(AaaS)으로 널리 사용되는 허깅페이스의 명성에 심각한 타격을 줄 수 있는 문제였습니다 dent WIZ . AaaS 기업들과 협력하여 이러한 플랫폼의 보안 취약점을 찾아냈습니다. 허깅페이스의 경우, 엄청난 인기와 높은 사용자 수로 인해 해커들의 표적이 되기 쉬웠습니다. WIZ와의 협력은 허깅페이스가 시스템의 단점을 개선하고 플랫폼의 보안을 강화할 수 있는 좋은 기회가 되었습니다.

아시다시피, AI 모델은 기능을 실행하기 위해 높은 GPU 성능을 필요로 하며, 스타트업이나 소규모 업체들은 이러한 요구를 충족하기 위해 AI 서비스 제공업체에 의존합니다. 허깅페이스(Hugging Face)의 인터페이스 API 또한 이러한 서비스를 제공합니다. 그런데 위즈 리서치(WIZ Research)는 악의적인 기능을 탑재한 자체 AI 모델을 실행하여 허깅페이스 서비스를 무력화시켰습니다. 이로 인해 시스템이 취약해졌고, 위즈는 허깅페이스 서비스를 이용 중인 다른 고객사의 모델에도 접근할 수 있게 되었습니다. 

Alaas 플랫폼 보호를 위한 솔루션 및 해결책

WIZ는 블로그에서 이러한 문제점과 발견 사항들이 허깅페이스(Hugging Face)에만 국한된 것이 아니라, AI 서비스 산업 전체에 광범위한 영향을 미친다고 밝혔습니다. 업계의 모든 업체들이 해커들이 AI 모델의 저장소인 깃허브(GitHub)처럼 여기고 불법적으로 사용자 간 접근 권한을 얻으려 하기 때문에, 그 위험성이 더욱 커질 수 있다는 것입니다. 

허깅 페이스와 위즈는 보안 침해를 방지하기 위한 몇 가지 예방 조치를 공동으로 제안했습니다. 그들은 엄격한 보안 제어와 정기적인 활동 모니터링을 권고했습니다. 또한 안전한 레지스트리를 사용하고 사용자 애플리케이션 실행을 위한 샌드박스 환경을 제공하여 코드 저장 공간을 더욱 철저하게 보호함으로써 사용자 간 접근을 차단할 것을 제안했습니다.