Z.ai、同意なくローカルファイルをアップロードしたZCodeをオープンソース化

GLMモデルファミリーを手がける中国企業Z.aiは、開発者のローカルプロジェクトファイルを許可なくAlibaba Cloudサーバーに送信していた欠陥を修正した後、そのコーディングアシスタント「ZCode」をオープンソース化しました。

この事件は9月18日に発生しました。Ferstarという名前の独立系中国のテクノロジーブロガーがZCodeの作業ディレクトリを調査している際に問題を発見し、Alibabaのクラウドストレージへのアップロードが準備されているファイルが見つかったと、サウスチャイナ・モーニング・ポストが報じました。

ブロガーは2つの暗号化されたファイルを見つけました。そのうち1つは564回のアップロード試行の失敗後も転送待ちだった313メガバイトの圧縮アーカイブで、もう1つはすでに送信された15キロバイトの小さなファイルでした。

Ferstarは、大きなアーカイブには彼が開発中の商業プロジェクトのスナップショット、そのGit履歴などが含まれていると述べました。彼はSCMPに対し、Z.aiのバックエンドに保持されている秘密鍵で暗号化されていたため、彼自身もZCodeクライアントもファイルを開くことができなかったと語りました。

ZCodeがリポジトリ全体をアップロードするに至った経緯

これらの「反逆的」なアップロードは、セッションのチェックポイント、バージョンのロールバック、「Repo Wiki」に使用されるリポジトリインデックス機能に関連していました。この機能はZCodeのローンチ後にデフォルトで有効になっていました。

クラウド内で新しいWikiページを作成することで、リポジトリ全体のアップロードがトリガーされる可能性があり、これはアクティブに作業中のファイルだけでなく、他の情報も露出させる可能性があります。Git履歴には特定の古い資格情報やホスト名が含まれていることが多く、完全なリポジトリのスナップショットは非常に機微な情報を含みます。

上海を拠点とする開発者SCMPに引用されたは、この行為を本質的にユーザーからの窃盗であると述べ、悪意のある意図の可能性が最も懸念される部分だと付け加えました。

何が Z.ai 変更を行ったと述べています

Z.aiは今回の件について謝罪し、不正なアップロードを停止したと主張しています。同社は、クラウドに送信されたデータはすべて破棄され、モデルのトレーニングには一切使用されなかったとも述べています。

中国のAIメーカーはまた、製品セキュリティの脆弱性に関する報告のための恒久的なプロセスを確立する計画を発表し、報奨金は問題の重大度に基づいて支払われるとしました。同社はまた、開発者に対し、現在オープン化されたコードベースの監査を継続するよう招待しています。

アップロードされたデータの行方については疑問が残っています。外部者はまだそれが何になったのかを正確に検証することができないからです。

7月にはxAIのGrok Buildに関連する類似の事件が発生し、その際コーディングツールがGitリポジトリ全体をアップロードしていることが発覚しました。Elon Muskはアップロードが行われたことを確認した後、xAIはデータを削除し、ゼロ保持ポリシーとプライバシーエンドポイントを導入しました。その後の独立した再テストでは、アップロードが停止していることが確認されました。

Z.aiはまだ保持ポリシーの文書化された変更を発表しておらず、独立した再テストを許可していません。同社がアップロードされたデータを削除したという主張は、外部者が検証するのが非常に困難です。同社は唯一の復号鍵を管理しているからです。

開発者は今、このツールを信頼するかどうかを決定しなければなりません

この事件の影響は広がり続けており、あるロボット会社はZ.aiのツールを社内で禁止したと報じられています。開発者たちはSCMPに対し、信頼へのダメージは特定のバグそのものよりもはるかに深刻なものになる可能性があるとの見方を示しています。

この事件は市場でのZ.aiの株価にも影響を与えました。Z.ai（2513.HK）の株式は月曜日の取引で約6%下落しましたが、その後回復し、1.8%高値で取引を終えました。記事作成時点でのZ.aiの取引価格は794 HKDでした。