Ситуация с OpenClaw в Китае переросла из золотой лихорадки в панику в сфере безопасности

Государственные органы Китая и государственные компании рекомендовали своим сотрудникам воздержаться от использования OpenClaw после того, как чиновники выразили опасения, что это может поставить под угрозу конфиденциальные данные.

Два источника, знакомые с ситуацией, сообщили, что предупреждения были разосланы в последние дни, в них сотрудникам рекомендовалось не устанавливать это программное обеспечение на рабочие устройства. Один из источников сообщил, что регулирующие органы дали указание сотрудникам государственных предприятий вообще избегать его использования, в некоторых случаях даже на личных телефонах и компьютерах.

Второй источник, из китайского правительственного агентства, сообщил Reuters, что прямого запрета на их рабочем месте не было, но сотрудников предупредили о рисках для безопасности и попросили не устанавливать устройство.

Национальная группа реагирования на чрезвычайные ситуации в компьютерных сетях/Координационный центр Китая (CNCERT/CC) также выпустила предупреждение о безопасности, отметив, что неправильная установка и использование агентов OpenClaw уже привели к ряду серьезных проблем с безопасностью.

Среди основных угроз особо отмечена «внедрение подсказок», когда злоумышленники внедряют скрытые вредоносные инструкции в веб-страницы, которые, если их прочтет OpenClaw, могут обмануть систему и привести к утечке конфиденциальной информации, такой как системные ключи. CNCERT/CC также предупредил о рисках «неправильной работы», когда OpenClaw может неправильно понимать команды пользователя и по ошибке удалять критически важные данные, включая электронные письма или основную производственную информацию.

Программное обеспечение было разработано австрийским разработчиком Петером Штайнбергером, который разместил его на GitHub в ноябре прошлого года. В прошлом месяце его наняла компания OpenAI. В Китае оно быстро стало популярным. Фраза «выращивание лобстера», отсылка к логотипу приложения в виде лобстера, распространилась по китайским социальным сетям, и вскоре инструмент был принят на вооружение крупными технологическими компаниями и некоторыми местными органами власти.

Энтузиазм инвесторов приводит к резкому росту акций

Акции Tencent подскочили на 7,3% после того, как компания представила совместимые продукты, а акции стартапа MiniMax выросли более чем на 20%, поскольку инвесторы сделали ставку на этот тренд. Tencent запустила Workbuddy, приложение, которое подключается к популярным китайским офисным приложениям.

Компания ByteDance представила ArkClaw, облачную версию, не требующую установки. Alibaba выпустила CoPaw, которая работает с платформами обмена сообщениями, такими как DingTalk и Feishu. Zhipu AI запустила AutoClaw, сделав настройку такой же простой, как загрузка обычного приложения.

Местные органы власти быстро последовали этому примеру. Район Лунган в Шэньчжэне представил проект политики, поощряющий бесплатные услуги по развертыванию и субсидирование разработчиков.

Высокотехнологичный район Уси в провинции Цзянсу объявил о выделении грантов в размере от 1 до 5 миллионов юаней (примерно от 144 774 до 723 871 долларов США) предприятиям, которые будут использовать этот инструмент. Все это происходило в рамках пекинской программы «ИИ плюс», направленной на внедрение искусственного интеллекта в различные отрасли по всей стране.

Пользователи сообщают о путанице в данных, слабых элементах управления и неправильном понимании команд

Быстрое внедрение не обошлось без проблем. На прошлой неделе исследовательский центр при муниципальной комиссии здравоохранения Шэньчжэня провел обучающий семинар, который привлек тысячи участников. Также поступали жалобы от пользователей. Инструмент иногда неправильно истолковывал инструкции, имел слабые механизмы контроля доступа и оставлял людей в неведении относительно того, куда в конечном итоге попадают их данные.

Насколько далеко зайдут эти ограничения, пока неясно, в том числе, повлияют ли они на местные программы субсидирования, связанные с OpenClaw. По данным государственной газеты Southern Daily, район Футянь в Шэньчжэне, как сообщается, использовал это программное обеспечение для создания помощника для государственных служащих.