- Исследователи обнаружили две серьезные уязвимости на платформе Hugging Face.
- Эти недостатки позволяли хакерам запускать вредоносный код.
- Hugging Face объявила, что исправила эти уязвимости.
Hugging Face получает огромное количество моделей ИИ для тестирования и оценки, уязвимых для хакеров. Скорость внедрения искусственного интеллекта никогда раньше не была такой высокой. Этот ажиотаж помог в разработке многих полезных инструментов, но в то же время он предоставил хакторам более быстрый и легкий способ реализации своих вредоносных стратегий. Что касается Hugging Face, хакеры имели возможность извлекать пользовательскую информацию, запуская свой собственный код.
По данным исследователей из компании облачной безопасности WIZ, в архитектуре системы, где выполнялись модели машинного обучения (ML), было две основные уязвимости. Уязвимости, а именно риск захвата общей инфраструктуры вывода и риск захвата общей непрерывной интеграции и непрерывного развертывания (CI/CD), оставили пользователей беззащитными перед черными шляпами. Проще говоря, эти уязвимости предоставили хакерам секретный способ загрузки своего кода, что дало им возможность вмешиваться в реестры.
Партнерство Hugging Face и WIZ для изучения недостатков
Хакеры могут несанкционированно получать доступ к данным других пользователей, загружая свои собственные вредоносные модели ИИ. Это была большая проблема, которая могла нанести ущерб репутации Hugging Face, поскольку эти платформы широко используются для хранения и обработки моделей ИИ в качестве платформы ИИ как услуги (AlaaS). WIZ сотрудничал с компаниями AaaS, чтобы найти уязвимости безопасности в этих платформах. В случае с Hugging Face его огромная популярность и внедрение вывели его на радар хакеров. Сотрудничество WIZ предоставило Hugging Face хорошую возможность устранить недостатки в своей системе и усилить меры безопасности платформы.
Как мы знаем, для выполнения своих функций моделям ИИ требуется большая мощность GPU, для чего стартапы и другие мелкие поставщики полагаются на компании-провайдеры ИИ-услуг. Интерфейс API Hugging Face также предоставляет ту же услугу. В процессе WIZ Research запустила свою собственную вредоносную модель ИИ с некоторыми неприятными функциями, которые скомпрометировали сервис Hugging Face. Это сделало систему уязвимой, и WIZ могла получить доступ к моделям других клиентов, использующих сервис Hugging Face.
Решения и средства защиты для платформ Alaas
WIZ заявил в своем блоге, что эти недостатки и выводы не затрагивают только Hugging Face, а имеют более широкие последствия для всей индустрии ИИ как услуги. Все игроки в отрасли находятся под угрозой масштаба, так как хакеры видят в них GitHub для моделей ИИ и стремятся получить несанкционированный доступ между пользователями.
Hugging Face и Wiz совместно предложили некоторые меры предосторожности для предотвращения нарушений безопасности: они рекомендовали строгие меры контроля безопасности и регулярный мониторинг активности. Они также предложили использовать безопасные реестры и предоставлять песочницу для запуска пользовательских приложений, сделав места хранения их кода более защищенными, чтобы предотвратить доступ между пользователями.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
