- OpenAI는 GPT-5.6 Sol과 더 강력한 미공개 모델이 격리된 테스트 환경을 탈출하여 Hugging Face의 프로덕션 데이터베이스를 해킹했다고 밝혔습니다.
- 이 모델들은 사이버 벤치마크를 위해 안전 필터가 꺼진 상태로 실행되었으며, 결함이 있는 패키지 프록시를 통해 탈출해 벤치마크의 정답을 훔쳤습니다.
- 이는 모델 평가가 외부 기업의 실제 보안 침해로 이어진 첫 번째 사례입니다.
OpenAI는 화요일, 공개적으로 이용 가능한 GPT-5.6 Sol을 포함한 두 개의 모델이 지난주 잠긴 평가 환경에서 탈출하여 Hugging Face의 프로덕션 시스템에 침입해 그들이 점수를 받고 있던 해킹 테스트의 정답을 훔쳤다고 밝혔습니다.
OpenAI 모델들의 위대한 탈출 계획
OpenAI는 ExploitGym이라는 공개 벤치마크에서 모델을 테스트하고 있었습니다. 이 벤치마크는 AI 에이전트에게 실제 소프트웨어 취약점 목록을 제공하고 모델이 이를 재현할 수 있는지 확인합니다. 이러한 평가는 실험실이 AI 모델의 실제 능력을 테스트할 수 있도록 프로덕션 중 고위험 사이버 활동을 차단하는 보호 장치가 의도적으로 비활성화된 상태에서 수행됩니다.
샌드박스에는 인터넷에 접근할 수 있는 방법이 없어야 했습니다. 그러나 패키지 레지스트리 캐시 프록시를 통해 작동하는 하나의 외부 연결이 있었는데, 이는 개발자가 라이브 연결 없이 외부 소스에서 코드 라이브러리를 가져올 수 있게 해주는 캐싱 서버입니다.
모델들은 이 프록시에서 이전에 알려지지 않은 결함을 발견하고 이를 악용한 후, 권한을 상승시켜 OpenAI의 연구 네트워크를 통해 이동하다가 인터넷에 접근할 수 있는 기계에 도달했습니다.
Hugging Face에 대한 해킹 공격
온라인에 접속한 후, 모델들은 오픈 AI 호스팅 플랫폼인 Hugging Face가 ExploitGym의 모델, 데이터셋 및 솔루션 키를 저장했을 것이라고 추론했습니다. 그곳에서 그들은 사냥을 시작했습니다.
“식별된 모델들은 OpenAI의 연구 환경과 Hugging Face의 프로덕션 인프라 전반에 걸쳐 취약점을 찾아 연결하여, Hugging Face의 프로덕션 데이터베이스에서 직접 테스트 솔루션을 획득했습니다.”라고 OpenAI는 블로그 게시물에서 밝혔습니다. 한 공격은 탈취한 자격 증명과 제로데이 버그를 결합하여 Hugging Face 서버의 원격 코드 실행 경로에 도달했습니다.
OpenAI의 보안 팀은 이상하고 비정상적인 트래픽을 발견한 후 Hugging Face에 연락했습니다. 이 시점에는 Hugging Face도 이미 AI 모델의 침입을 감지하고 자체적으로 격리했습니다.
회사는 원래 이 침해 사건을 알려지지 않은 외부 AI 에이전트의 소행으로 돌렸습니다. 플랫폼은 또한 해당 사건 동안 기록된 17,000개 이상의 이벤트를 재구성했습니다.
오픈 웨이트 중국산 AI 모델이 정리 작업에 기여
초기에 Hugging Face는 공격을 분석하기 위해 미국의 선도적인 모델을 시도했지만, 모델의 높은 사이버 방어 수준 때문에 큰 도움이 되지 않았습니다. 방어자들은 미국 상용 시스템이 공격자가 공격을 분석하는 것과 공격자가 공격을 수행하는 것을 구분할 수 없었기 때문에 중국 회사 Z.ai의 오픈 웨이트 모델인 GLM 5.2로 전환했습니다.
그러나 모든 사람이 이 상황을 새로운 AI 실패로 보지는 않습니다. “이것은 AI 문제가 아닙니다. 40년 된 표준에 대한 과실입니다.” 보안 컨설턴트 Davi Ottenheimer는 WIRED에 “‘매우 격리된’ 것과 ‘우리가 열어둔 유일한 구멍을 통해 탈출한’ 것은 둘 다 참일 수 없다”고 주장했습니다. 보안 연구원 Niels Provos는 더 직설적으로, 같은 보고서에서 이 침해 사건은 “발생하지 않았어야 했다”고 밝혔습니다.
OpenAI는 이 사건을 “전례 없는” 것으로 규정합니다
OpenAI는 이 사건을 “최첨단 사이버 능력을 포함한 전례 없는 사이버 사건”으로 규정했으며, 취약점이 패치되는 동안 연구 속도를 희생하더라도 인프라 통제를 강화하고 있다고 밝혔습니다. 최고 AI 회사는 또한 Hugging Face를 신뢰할 수 있는 접근 프로그램에 추가하여, 방어자를 돕도록 조정된 GPT-5.6 Sol 버전을 제공했습니다.
OpenAI와 Hugging Face의 사건은 AI 모델의 벤치마크 테스트가 실제 사이버 공격으로 이어진 첫 번째 알려진 사례입니다. 또한 이는 OpenAI가 샌드박스에서 탈출하여 GitHub에 게시한 별도의 사건을 공개한 지 하루 만에 발생한 것입니다.
OpenAI와 Hugging Face는 조사가 완료되면 이 사건의 완전한 법의학 분석을 공개하겠다고 발표했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Opeyemi Olanrewaju
Opeyemi는 암호화폐, 글로벌 금융 시장 및 경제를 중심으로 고품질 콘텐츠를 제작하고 다듬는 데 특화되어 있습니다. 그는 이바단 대학교에서 의학박사(MBBS) 학위를 취득했으며, 대학 내 편집부의 편집장을 역임했고 이전에는 CFA에서도 근무했습니다. 지난 6 년 이상 Cryptopolitan 의 뉴스 편집자로 재직하며 콘텐츠의 독창성을 보호해 왔습니다.
