Z.ai опубликовала исходный код Zcode после того, как инструмент загрузил локальные файлы без согласия пользователя

Китайская компания Z.ai, разработчик семейства моделей GLM, открыла исходный код своего помощника по программированию ZCode после исправления ошибки, из-за которой локальные файлы проектов разработчиков незаметно отправлялись на серверы Alibaba Cloud без их разрешения.

dent произошел 18 сентября, когдаdent китайский технологический блогер, известный как Ferstar, обнаружил проблему при проверке рабочего каталога ZCode, выявив файлы, готовящиеся к загрузке в облачное хранилище Alibaba, сообщила газета South China Morning Post.

Блогер обнаружил два зашифрованных файла, включая сжатый архив размером 313 мегабайт, который все еще ожидал передачи после 564 неудачных попыток загрузки, и меньший по размеру файл размером 15 килобайт, который уже был отправлен.

Ферстар заявил, что в более крупном архиве содержался снимок коммерческого проекта, над которым он работал, включая историю изменений в Git. Он сообщил SCMP, что ни он, ни клиент ZCode не смогли открыть файл, поскольку он был зашифрован закрытым ключом, хранящимся на бэкэнде Z.ai.

Как ZCode в итоге загрузил целые репозитории

«Бунтарские» загрузки были связаны с функцией индексирования репозитория, используемой для контрольных точек сессии, отката версий и «Вики репозитория». Эта функция была включена по умолчанию после запуска ZCode.

Загрузка целых репозиториев может быть инициирована созданием новой вики-страницы в облаке, и это может раскрыть не только файлы, над которыми ведется активная работа. История Git также позволяет легкоdentрепозиторий по определенным старымdentданным и именам хостов, что делает снимок репозитория весьма конфиденциальным.

Разработчик из Шанхая, цитирует SCMP, охарактеризовал такое поведение как, по сути, кражу у пользователей, добавив, что наиболее тревожным моментом является возможность злого умысла.

То, что, Z.ai , они изменили.

Компания Z.ai принесла извинения заdent и заявила, что пресекла несанкционированную загрузку данных. Компания также сообщила, что все данные, отправленные в ее облачное хранилище, были уничтожены и никогда не использовались для обучения моделей.

Китайский производитель ИИ также заявил о планах создать постоянный процесс сообщения об уязвимостях безопасности продукта с выплатами в зависимости от серьезности проблемы. Компания также пригласила разработчиков продолжить аудит открытого кода.

Вопросы относительно загруженных данных остаются, поскольку посторонние до сих пор не могут точно подтвердить, что с ними произошло.

Аналогичныйdent с инструментом Grok Build от xAI произошел в июле, когда выяснилось, что инструмент загружал целые репозитории Git. Илон Маск подтвердил факт загрузки, после чего xAI удалил данные и ввел политику нулевого хранения, а также точку доступа к конфиденциальной информации.dent повторная проверка позже показала, что загрузка прекратилась.

Компания Z.ai до сих пор не объявила о каких-либо документально подтвержденных изменениях в своей политике хранения данных и не разрешила проведениеdent повторного тестирования. Заявление компании о том, что загруженные данные были удалены, остается довольно сложным для проверки посторонними лицами, поскольку компания также контролирует единственный ключ расшифровки.

Теперь разработчикам предстоит решить, доверять ли этому инструменту

Последствия этого инцидентаdent распространяться, и, как сообщается, одна из компаний, занимающихся робототехникой, запретила использование инструментов Z.ai внутри компании. Разработчики заявили SCMP, что ущерб доверию может быть гораздо более серьезным, чем просто конкретная ошибка.

dent также повлиял на акции Z.ai на рынке. Акции Z.ai (2513.HK) упали почти на 6% в ходе торговой сессии в понедельник, прежде чем восстановиться и закрыться на отметке 1,8% выше. На момент написания статьи акции Z.ai торговались по цене 794 гонконгских доллара.