Protect AI запускает Guardian для защиты моделей машинного обучения от вредоносного кода

Protect AI, ведущий игрок в сфере безопасности ИИ, представил свое последнее нововведение — Guardian. Это передовое решение позволяет организациям внедрять надежные политики безопасности для своих моделей машинного обучения, гарантируя, что вредоносный код не проникнет в их ИИ-окружения.

Опираясь на основу открытого инструмента Protect AI ModelScan, Guardian сочетает возможности с открытым исходным кодом с проприетарными функциями сканирования, обеспечивая комплексную безопасность моделей для предприятий.

Устранение рисков демократизации ИИ/ML

Демократизация искусственного интеллекта и машинного обучения привела к широкой доступности базовых моделей на таких платформах, как Hugging Face. Эти модели, скачиваемые миллионами пользователей каждый месяц, играют ключевую роль в обеспечении работы широкого спектра приложений ИИ. 

Однако эта доступность также создала уязвимости в области безопасности, поскольку открытый обмен файлами в этих репозиториях может непреднамеренно способствовать распространению вредоносного программного обеспечения среди пользователей.

Иэн Суонсон, генеральный директор Protect AI, заявил: «Модели машинного обучения стали неотъемлемыми активами инфраструктуры организации, однако они часто не проходят строгие проверки на вирусы и вредоносный код, которые получают другие типы файлов перед использованием. 

С тысячами моделей, скачиваемых миллионы раз каждый месяц с таких платформ, как Hugging Face, потенциальная опасность проникновения опасного кода значительна. Guardian позволяет клиентам восстановить контроль над безопасностью моделей с открытым исходным кодом.”

Guardian: Защита от атак сериализации моделей

Одним из критических рисков, связанных с открыто разделяемыми моделями машинного обучения, является атака сериализации моделей. Она происходит, когда вредоносный код внедряется в модель во время сериализации (сохранения) и перед распространением, создавая современную версию троянского коня. 

Оказавшись внутри модели, этот скрытый вредоносный код может быть выполнен для кражи конфиденциальных данных, компрометации учетных данных, манипулирования данными и многого другого. Эти риски распространены в моделях, размещенных в крупных репозиториях, таких как Hugging Face.

Ранее Protect AI запустил ModelScan, инструмент с открытым исходным кодом, предназначенный для сканирования моделей ИИ/ML на наличие потенциальных атак, защищая системы от уязвимостей цепочки поставок. С момента своего появления Protect AI использовал ModelScan для оценки более 400 000 моделей, размещенных на Hugging Face, выявляя модели с уязвимостями безопасности и постоянно обновляя эту базу знаний.

На сегодняшний день было обнаружено более 3300 моделей, способных выполнять вредоносный код. Эти модели продолжают скачиваться и развертываться в средах ML без адекватных мер безопасности для их сканирования на наличие потенциальных рисков перед внедрением.

Guardian: безопасный шлюз для разработки и развертывания моделей

В отличие от других альтернатив с открытым исходным кодом, Guardian от Protect AI является безопасным шлюзом, соединяющим процессы разработки и развертывания ML, которые опираются на такие платформы, как Hugging Face и другие репозитории моделей. 

Guardian использует проприетарные сканеры уязвимостей, включая специализированный сканер для слоев Keras lambda, для проактивного осмотра моделей с открытым исходным кодом на наличие вредоносного кода, гарантируя использование безопасных моделей, соответствующих политикам, в корпоративных сетях.

Расширенный контроль доступа и всесторонняя информация

Guardian предлагает расширенные функции контроля доступа и интуитивно понятные панели управления, которые предоставляют командам безопасности полный контроль над доступом к моделям, обеспечивая при этом всестороннюю информацию о происхождении моделей, их создателях и лицензировании. Такой уровень прозрачности гарантирует, что организации могут принимать обоснованные решения о моделях, которые они включают в свои ИИ-окружения.

Кроме того, Guardian интегрируется с существующими системами безопасности и дополняет Protect AI Radar, обеспечивая широкую видимость поверхности угроз для ИИ и машинного обучения в организациях.