Платформа OpenClaw для обучения навыкам вызывает опасения по поводу безопасности на фоне ускоренного внедрения агентов искусственного интеллекта

Недавние исследования показывают, что система сканирования навыков OpenClaw не является надежной защитой. Размещение навыков сторонних разработчиков по-прежнему представляет проблему для создания и использования агентов ИИ. 

Навыки OpenClaw по-прежнему представляют угрозу безопасности, и, согласно последним исследованиям экспертов по безопасности, недавно разработанная система сканирования навыков не является надежным барьером. Сканирование навыков предлагается в качестве шлюза для издателей навыков, направленного на перехват потенциально вредоносных данных или вредоносных элементов самого навыка. 

Как Cryptopolitan сообщало издание, сторонние сервисы уже представляют угрозу безопасности, а внедрение агентов искусственного интеллекта ускоряется и усугубляет эту проблему. 

OpenClaw позволяет пользователю создавать агентов и запускать их на локальном компьютере или сервере. Однако навыки, созданные непосредственно в OpenClaw, могут наследовать тот же доступ к ресурсам и инструментам. Поскольку некоторые навыки связаны с конфиденциальными задачами, такими как доступ к кошельку или взаимодействие с блокчейном, наборы навыков, размещенные третьими лицами, остаются рискованными. 

Как OpenClaw проверяет навыки на предмет наличия злонамеренных намерений? 

Недавние исследования показали, что Clawhub использует VirusTotal, а также внутреннюю систему модерации OpenClaw. Результаты этих проверок классифицируют навыки и выдают пользователям предупреждения во время установки. 

Эта система всё ещё несовершенна и может считать навыки безвредными или даже потенциально опасными. Проблема возникает, когда VirusTotal помечает навык как подозрительный, а OpenClaw — как безопасный. Пользователю отображается предупреждение, и он всё ещё может подтвердить установку навыка. Навыки, полностью помеченные как вредоносные, не допускаются к загрузке. 

OpenClaw также предлагает песочницу и средства контроля во время выполнения, но они являются необязательными и не представляют собой жесткого ограничения по умолчанию для использования сторонних инструментов. OpenClaw оставляет песочницу на основе Docker необязательной, и некоторые инструменты остаются доступными даже при ее отключении. 

Пользователи также выбирают прямой путь, потому что развертывание в тестовых средах может быть сложным, и некоторые навыки могут давать сбои. Это также означает, что платформа зависит от проверок и предупреждений, системы, которая не обеспечивает прямой защиты при запуске навыков агентов. 

Может ли OpenClaw выявлять вредоносные навыки? 

В OpenClaw уже реализованы некоторые меры безопасности, включая проверки на действия, специально связанные с перехватывающим кодом, который может считывать секретные данные и передавать их. Этот подход используется в традиционной безопасности для обнаружения подозрительных процессов, запросов и других действий. 

Навыки агентов ИИ сложнее отслеживать, поскольку входные данные включают в себя как код и инструкции на естественном языке, так и поведение во время выполнения. Традиционные методы обеспечения безопасности могут иметь «слепые зоны» для анализа поведения агентов.

Следующий этап — использование сканирования с помощью ИИ для выявления более рискованных действий, которые не были обнаружены статическим поиском или обычным подходом с использованием регулярных выражений. Агенты ИИ могут дать представление о внутренней согласованности навыков, не исчерпывая при этом потенциальные уязвимости. Они ищут наиболее очевидный уязвимый код или общие несоответствия. 

Исследователи отметили, что система проверок и модерации OpenClaw быстро одобряла навыки, в то время как VirusTotal иногда требовались дни, чтобы отметить добавление. Также было возможно добавлять эксплойты к уже одобренным навыкам. Это означало, что процесс OpenClaw мог объявлять навыки безопасными, даже если они могли содержать неожиданное поведение. 

Разработчикам ИИ-агентов исследователи рекомендуют использовать песочницу или инструменты для предотвращения запуска навыков, даже если они помечены как безопасные. Исследователи призвали платформы для разработки навыков исходить из того, что навыки, выглядящие обычными, могут скрывать уязвимости, и избегать их использования в средах с высокой ценностью, потенциально предоставляющих доступ к криптовалютным кошелькам или другой конфиденциальной информации.