Hugging Face получает огромное количество моделей ИИ для тестирования и оценки, которые уязвимы для хакеров. Скорость адаптации искусственного интеллекта беспрецедентна. Этот ажиотаж способствовал разработке множества полезных инструментов, но в то же время предоставил хакерам более быстрый и простой способ реализации своих вредоносных стратегий. Говоря о Hugging Face, следует отметить, что хакеры получили возможность получать информацию о пользователях, запуская собственный код.
По данным исследователей из компании WIZ, специализирующейся на облачной безопасности, в архитектуре системы, где выполнялись модели машинного обучения, были обнаружены две основные уязвимости. Эти уязвимости, а именно риск захвата общей инфраструктуры вывода и риск захвата общей системы непрерывной интеграции и непрерывного развертывания (CI/CD), оставляли пользователей на милость злоумышленников. Проще говоря, эти уязвимости предоставляли хакерам секретный способ загрузки своего кода, что позволяло им модифицировать реестры.
Партнерство Hugging Face и WIZ направлено на изучение недостатков
Хакеры могли несанкционированно получать доступ к данным других пользователей, загружая собственные вредоносные модели ИИ. Это представляло собой серьезную проблему и могло нанести ущерб dent Hugging Face, поскольку эти платформы широко используются для хранения и обработки моделей ИИ в качестве платформы «ИИ как услуга» (AaaS). WIZ сотрудничала с компаниями, предоставляющими AaaS-услуги, чтобы выявить уязвимости в безопасности этих платформ. В случае с Hugging Face, его огромная популярность и широкое распространение привлекли внимание хакеров. Сотрудничество WIZ предоставило Hugging Face хорошую возможность устранить недостатки в своей системе и усилить меры безопасности платформы.
Как известно, для работы моделей ИИ требуется более высокая мощность графического процессора, поэтому стартапы и другие небольшие компании полагаются на поставщиков услуг в области ИИ. API-интерфейс Hugging Face также предоставляет эту услугу. В процессе работы WIZ Research запустила собственную уязвимую модель ИИ с некоторыми неприятными особенностями, которые скомпрометировали сервис Hugging Face. Это сделало систему уязвимой, и WIZ получила доступ к моделям других клиентов, использующих сервис Hugging Face.
Решения и способы защиты на платформах Alaas
WIZ заявила, что эти недостатки и выводы касаются не только Hugging Face, но и имеют более широкие последствия для всей индустрии ИИ как услуги. Все участники отрасли подвергаются огромному риску, поскольку хакеры рассматривают их как GitHub для моделей ИИ и стремятся незаконно получить доступ к ним от разных пользователей.
Компании Hugging Face и Wiz совместно предложили ряд мер предосторожности для предотвращения нарушений безопасности, посоветовав строгий контроль безопасности и регулярный мониторинг активности. Они также предложили использовать защищенные реестры и предоставлять изолированную среду для запуска пользовательских приложений, сделав места хранения кода более защищенными, чтобы предотвратить доступ к ним со стороны разных пользователей.
