Z.ai, 동의 없이 로컬 파일을 업로드한 후 ZCode 오픈소스화

GLM 모델 패밀리를 개발한 중국 기업 Z.ai는 개발자들의 로컬 프로젝트 파일을 허가 없이 알리바바 클라우드 서버로 조용히 전송하던 결함을 수정한 후 코딩 어시스턴트 ZCode를 오픈소스로 공개했습니다.

사건은 9월 18일에 발생했으며, Ferstar라는 이름의 독립적인 중국 기술 블로거가 ZCode의 작업 디렉토리를 검사하는 동안 문제를 발견하고 알리바바 클라우드 스토리지로 업로드 준비가 된 파일을 발견했다고 사우스차이나모닝포스트(SCMP)가 보도했습니다.

블로거는 564번의 실패한 업로드 시도 후에도 전송을 기다리고 있는 313메가바이트 압축 아카이브를 포함하여 두 개의 암호화된 파일을 발견했으며, 이미 전송된 15킬로바이트의 작은 파일도 있었습니다.

Ferstar는 더 큰 아카이브에 그가 개발 중인 상업용 프로젝트의 스냅샷과 그 Git 이력이 포함되어 있다고 말했습니다. 그는 SCMP에 이 파일이 Z.ai 백엔드에 있는 개인 키로 암호화되어 있어 자신도 ZCode 클라이언트도 파일을 열 수 없다고 말했습니다.

ZCode가 전체 저장소(repository)를 업로드하게 된 경위

‘반란적’ 업로드는 세션 체크포인트, 버전 롤백 및 ‘Repo Wiki’에 사용되는 저장소 인덱싱 기능과 연결되었습니다. 이 기능은 ZCode 출시 후 기본값으로 활성화되었습니다.

클라우드 내에서 새로운 위키 페이지를 작성하면 전체 저장소 업로드가 트리거될 수 있으며, 이는 활성 작업 중인 파일뿐만 아니라 더 많은 정보를 노출시킬 수 있습니다. Git 기록은 특정 구식 자격 증명과 호스트 이름을 쉽게 식별할 수 있게 하여 전체 저장소 스냅샷을 매우 민감하게 만듭니다.

상하이 기반 개발자 SCMP에 인용되어 이 행동을 본질적으로 사용자로부터 도용하는 것이라고 묘사하며, 악의적 의도의 가능성이 가장 우려스러운 부분이라고 덧붙였습니다.

무엇 Z.ai 변경 사항을 밝혔습니다

Z.ai는 이 사건에 대해 사과했으며 무단 업로드를 중단했다고 주장했습니다. 또한 해당 회사에 전송된 모든 데이터는 파기되었으며 모델 학습에 사용되지 않았다고 밝혔습니다.

중국 AI 제조업체는 또한 제품 보안 취약점 보고를 위한 영구 프로세스를 수립할 계획이며, 문제의 심각성에 따라 보상을 제공할 것이라고 밝혔습니다. 또한 개발자들이 이제 공개된 코드베이스에 대한 감사를 계속하도록 초대했습니다.

업로드된 데이터에 대한 의문은 여전히 남아 있습니다. 외부인은 여전히 데이터가 어떻게 처리되었는지 정확히 확인할 수 없기 때문입니다.

7월에는 xAI의 Grok Build와 관련된 유사한 사건이 발생했는데, 이때 코딩 도구가 전체 Git 저장소를 업로드하는 것이 발견되었습니다. 일론 머스크는 업로드가 발생했음을 확인한 후, xAI는 데이터를 삭제하고 영구 보관 제로(zero-retention) 정책과 프라이버시 엔드포인트를 도입했습니다. 이후 독립적인 재테스트에서 업로드가 중단되었음이 확인되었습니다.

Z.ai는 아직 보관 정책의 문서화된 변경 사항을 발표하지 않았으며任何形式的 독립적인 재테스트를 허용하지 않았습니다. 업로드된 데이터가 삭제되었다는 회사의 주장은 외부인이 검증하기 매우 어렵습니다. 또한 회사는 유일한 복호화 키를 보유하고 있기 때문입니다.

개발자들은 이제 도구를 신뢰할지 여부를 결정해야 합니다

이 사건의 여파는 계속 확산되고 있으며, 한 로봇 회사는 내부적으로 Z.ai의 도구를 금지한 것으로 보고되었습니다. 개발자들은 SCMP에 신뢰에 대한 피해가 특정 버그 자체보다 훨씬 더 치명적일 수 있다고 말했습니다.

이 사건은 Z.ai의 시장 주가에도 영향을 미쳤습니다. Z.ai(2513.HK)의 주가는 월요일 세션 동안 거의 6% 하락했다가 회복되어 1.8% 상승한 것으로 마감되었습니다. 작성 시점 기준 Z.ai의 거래가는 794 HKD였습니다.