Hugging Face, 보안 개선을 위해 문제 해결

Hugging Face는 해커들에게 취약한 수많은 AI 모델을 테스트 및 평가 목적으로 받고 있습니다. 인공지능 채택률은 전례 없이 높은 수준입니다. 이러한 열기는 많은 유용한 도구 개발에 기여했지만, 동시에 해커들이 악의적인 전략을 구현하는 더 빠르고 쉬운 방법을 제공했습니다. Hugging Face의 경우, 해커들은 자신의 코드를 실행하여 사용자 정보를 회수할 수 있는 방법을 가지고 있었습니다. 

클라우드 보안 기업 WIZ의 연구원들에 따르면, 머신러닝(ML) 모델이 실행되는 시스템 아키텍처에 두 가지 주요 결함이 있었습니다. 공유 추론 인프라 장악 위험과 공유 지속적 통합 및 지속적 배포(CI/CD) 장악 위험이라는 이 결함들은 사용자를 블랙햇 해커들의 손에 맡기게 만들었습니다. 쉽게 말해, 이러한 결함들은 해커들이 자신의 코드를 업로드할 수 있는 비밀 경로를 제공하여 레지스트리를 조작할 수 있게 했습니다. 

Hugging Face와 WIZ의 결함 탐색을 위한 파트너십

해커들은 자신들의 악성 AI 모델을 업로드하여 다른 사용자의 데이터에 무단으로 접근할 수 있습니다. 이는 Hugging Face가 AI as a Service 플랫폼(AlaaS)으로 AI 모델을 저장하고 처리하는 데 광범위하게 사용됨에 따라 그 평판에 잠재적인 타격을 줄 수 있는 큰 문제였습니다. WIZ는 이러한 플랫폼의 보안 취약점을 찾기 위해 AlaaS 기업들과 파트너십을 맺었습니다. Hugging Face의 경우, 그 엄청난 인기와 채택으로 인해 해커들의 표적이 되었습니다. WIZ와의 협력을 통해 Hugging Face는 시스템의 결함을 보완하고 플랫폼의 보안 조치를 강화할 좋은 기회를 얻었습니다.

우리가 알다시피, AI 모델은 기능을 실행하기 위해 높은 GPU 성능이 필요하므로 스타트업 및 기타 중소 벤더들은 AI 서비스 제공 기업에 의존합니다. Hugging Face의 인터페이스 API도 동일한 서비스를 제공합니다. 이 과정에서 WIZ Research는 Hugging Face 서비스를 침해하는 몇 가지 나쁜 기능을 가진 자체 악성 AI 모델을 실행했습니다. 이로 인해 시스템이 취약해졌고, WIZ는 Hugging Face 서비스를 이용하는 다른 고객 모델에 접근할 수 있었습니다. 

AlaaS 플랫폼 보호를 위한 솔루션 및 대책

WIZ는 자신의 블로그에서 이러한 결함과 발견 사항이 Hugging Face에만 국한된 것이 아니라 AI as a Service 산업 전반에 더 넓은 영향을 미친다고 밝혔습니다. 해커들이 이를 AI 모델의 GitHub로 보고 불법적인 크로스 사용자 접근을 시도하므로, 산업 내 모든 참여자가 위험에 처해 있습니다.

Hugging Face와 Wiz는 보안 침해 방지를 위해 몇 가지 예방 조치를 공동으로 제안했으며, 엄격한 보안 통제와 활동의 정기적 모니터링을 권고했습니다. 또한 안전한 레지스트리 사용과 코드 저장 공간을 더 철저히 차단하여 크로스 사용자 접근을 방지하는 샌드박스 환경을 제공하여 사용자 애플리케이션 실행을 권장했습니다.