Protect AI Lança o Guardian para Proteger Modelos de Aprendizado de Máquina de Códigos Maliciosos

A Protect AI, uma líder no setor de segurança de IA, revelou sua mais recente inovação, o Guardian. Esta solução de ponta capacita as organizações a impor políticas de segurança robustas em seus modelos de aprendizado de máquina, garantindo que códigos maliciosos não infiltrem seus ambientes de IA.

Construído sobre a base da ferramenta de código aberto ModelScan da Protect AI, o Guardian combina capacidades de código aberto com funcionalidades proprietárias de varredura, fornecendo segurança abrangente para modelos de IA em empresas.

Abordando os riscos da democratização da IA/ML

A democratização da inteligência artificial e do aprendizado de máquina levou à ampla disponibilidade de modelos fundamentais em plataformas como a Hugging Face. Esses modelos, baixados por milhões de usuários todos os meses, desempenham um papel crucial no suporte a uma ampla gama de aplicações de IA. 

No entanto, essa acessibilidade também introduziu vulnerabilidades de segurança, pois o intercâmbio aberto de arquivos nesses repositórios pode inadvertidamente facilitar a disseminação de software malicioso entre os usuários.

Ian Swanson, CEO da Protect AI, afirmou: “Os modelos de aprendizado de máquina tornaram-se ativos integrais na infraestrutura de uma organização, mas muitas vezes não recebem as rigorosas verificações de vírus e código malicioso que outros tipos de arquivo recebem antes do uso.” 

Com milhares de modelos baixados milhões de vezes de plataformas como a Hugging Face a cada mês, o potencial para a infiltração de código perigoso é significativo. O Guardian capacita os clientes a retomarem o controle sobre a segurança dos modelos de código aberto.”

Guardian: Protegendo contra ataques de serialização de modelos

Um dos riscos críticos associados aos modelos de aprendizado de máquina compartilhados abertamente é o ataque de Serialização de Modelos. Isso ocorre quando código malicioso é injetado em um modelo durante a serialização (salvamento) e antes da distribuição, criando uma versão moderna do Cavalo de Troia. 

Uma vez embutido dentro de um modelo, esse código malicioso oculto pode ser executado para roubar dados sensíveis, comprometer credenciais, manipular dados e muito mais. Esses riscos são prevalentes em modelos hospedados em grandes repositórios como a Hugging Face.

A Protect AI lançou anteriormente o ModelScan, uma ferramenta de código aberto projetada para escanear modelos de IA/ML em busca de possíveis ataques, protegendo os sistemas contra vulnerabilidades na cadeia de suprimentos. Desde o seu início, a Protect AI utilizou o ModelScan para avaliar mais de 400.000 modelos hospedados na Hugging Face, identificando modelos com falhas de segurança e atualizando continuamente essa base de conhecimento.

Até o momento, mais de 3.300 modelos foram descobertos com a capacidade de executar código rogue. Esses modelos continuam sendo baixados e implantados em ambientes de ML sem medidas de segurança adequadas para escaneá-los em busca de riscos potenciais antes da adoção.

Guardian: O gateway seguro para o desenvolvimento e implantação de modelos

Ao contrário de outras alternativas de código aberto, o Guardian da Protect AI é um gateway seguro, preenchendo a lacuna entre os processos de desenvolvimento e implantação de ML que dependem de plataformas como a Hugging Face e outros repositórios de modelos. 

O Guardian emprega varredores de vulnerabilidade proprietários, incluindo um varredor especializado para camadas lambda do Keras, para inspecionar proativamente modelos de código aberto em busca de código malicioso, garantindo a utilização de modelos seguros e em conformidade com as políticas dentro das redes organizacionais.

Controle de acesso aprimorado e insights abrangentes

O Guardian oferece recursos avançados de controle de acesso e painéis intuitivos que concedem às equipes de segurança controle total sobre a entrada de modelos, ao mesmo tempo que fornecem insights abrangentes sobre as origens, criadores e licenciamentos dos modelos. Este nível de transparência garante que as organizações possam tomar decisões informadas sobre os modelos que incorporam em seus ambientes de IA.

Além disso, o Guardian se integra aos frameworks de segurança existentes e complementa o Radar da Protect AI, oferecendo visibilidade extensiva da superfície de ameaças para IA e aprendizado de máquina dentro das organizações.