Z.ai выкладывает ZCode с открытым исходным кодом после загрузки локальных файлов без согласия

Z.ai, китайская компания, стоящая за семейством моделей GLM, выложила с открытым исходным кодом своего кодинга-ассистента ZCode после устранения уязвимости, которая тайно отправляла локальные файлы проектов разработчиков на серверы Alibaba Cloud без их разрешения.

Инцидент произошел 18 сентября, когда независимый китайский технологический блогер под псевдонимом Ferstar обнаружил проблему при проверке рабочей директории ZCode, найдя файлы, подготовленные для загрузки в облачное хранилище Alibaba, сообщает South China Morning Post.

Блогер обнаружил два зашифрованных файла, включая 313-мегабайтный сжатый архив, который все еще ожидал передачи после 564 неудачных попыток загрузки, и меньший файл объемом 15 килобайт, который уже был отправлен.

Ферстар сказал, что более крупный архив содержал снимок коммерческого проекта, который он разрабатывал, включая его историю Git. Он сообщил SCMP, что ни он, ни клиент ZCode не могли открыть файл, поскольку он был зашифрован с использованием закрытого ключа, хранящегося на бэкенде Z.ai.

Как ZCode начал загружать целые репозитории

«Бунтарские» загрузки были связаны с функцией индексации репозиториев, используемой для контрольных точек сессий, отката версий и «Repo Wiki». Эта функция была включена по умолчанию после запуска ZCode.

Загрузка целых репозиториев может быть инициирована созданием новой страницы wiki в облаке, и это может раскрыть не только файлы, над которыми активно ведется работа. История Git также может облегчить идентификацию по определенным старым учетным данным и именам хостов, что делает полный снимок репозитория довольно чувствительным.

Разработчик из Шанхая , процитированный в SCMP, охарактеризовал такое поведение как по сути кражу средств у пользователей, добавив, что наиболее тревожной частью является возможность злонамеренных намерений.

Что Z.ai утверждает, что внесла изменения

Z.ai извинилась за инцидент и утверждает, что прекратила несанкционированные загрузки. Компания также заявила, что любые данные, отправленные в ее облако, были уничтожены и никогда не использовались для обучения ее моделей.

Китайский производитель ИИ также заявил о планах создать постоянный процесс для сообщения об уязвимостях безопасности продуктов, с выплатами, основанными на серьезности проблемы. Она также пригласила разработчиков продолжить аудит теперь открытой кодовой базы.

Вопросы относительно загруженных данных сохраняются, поскольку внешние лица все еще не могут точно проверить, что произошло с ними.

Аналогичный инцидент с Grok Build от xAI произошел в июле, когда было обнаружено, что инструмент для программирования загружает целые репозитории Git. Илон Маск подтвердил, что загрузки происходили, после чего xAI удалила данные и ввела политику нулевого хранения вместе с конечной точкой конфиденциальности. Независимое повторное тестирование позже показало, что загрузки прекратились.

Z.ai до сих пор не объявила о каких-либо задокументированных изменениях в своей политике хранения или не позволила任何形式的 независимого повторного тестирования. Утверждение компании о том, что загруженные данные были удалены, остается довольно трудным для проверки внешними лицами, при этом компания контролирует единственный ключ дешифрования.

Разработчикам теперь нужно решить, доверять ли инструменту

Последствия этого инцидента продолжают распространяться, и, как сообщается, робототехническая компания запретила использование инструментов Z.ai внутри компании; разработчики сообщили SCMP, что ущерб доверию может оказаться гораздо более серьезным, чем просто конкретный баг.

Инцидент также повлиял на акции Z.ai на рынке. Акции Z.ai (2513.HK) упали почти на 6% в ходе торгов в понедельник, прежде чем восстановиться и закрыться на 1,8% выше. Z.ai торговалась по цене 794 HKD на момент написания статьи.