- Os pesquisadores encontraram duas falhas graves na plataforma Hugging Face.
- Essas vulnerabilidades estavam permitindo que hackers executassem códigos maliciosos.
- A Hugging Face anunciou que corrigiu as falhas.
O Hugging Face recebe um grande número de modelos de IA para teste e avaliação que são vulneráveis a hackers. A taxa de adaptação da inteligência artificial é a que nunca foi vista antes. Essa febre ajudou no desenvolvimento de muitas ferramentas benéficas, mas, ao mesmo tempo, proporcionou uma maneira mais rápida e fácil para os hackers implementarem suas estratégias maliciosas. Falando do Hugging Face, como os hackers tinham uma maneira de recuperar informações do usuário executando seus próprios códigos.
De acordo com pesquisadores da empresa de segurança em nuvem WIZ, havia duas falhas principais na arquitetura do sistema onde os modelos de ML (aprendizado de máquina) eram executados. As falhas, nomeadamente o risco de tomada de infraestrutura de inferência compartilhada e o risco de tomada de integração contínua e implantação contínua (CI/CD) compartilhada, deixaram os usuários à mercê de hackers. Em palavras mais simples, essas falhas forneceram uma maneira secreta para os hackers carregarem seus códigos, o que lhes deu uma maneira de adulterar os registros.
Parceria entre Hugging Face e WIZ para explorar as deficiências
Os hackers podem acessar não autoritariamente os dados de outros usuários carregando seus próprios modelos de IA maliciosos. Este foi um grande problema e poderia causar um dano potencial à reputação do Hugging Face, pois essas plataformas são amplamente utilizadas para armazenar e processar modelos de IA como uma plataforma de IA como serviço (AIaaS). A WIZ parceira com empresas de AIaaS para encontrar vulnerabilidades de segurança nessas plataformas. No caso do Hugging Face, sua imensa popularidade e adoção o colocaram no radar dos hackers. A colaboração da WIZ proporcionou uma boa oportunidade para o Hugging Face mediar as deficiências em seu sistema e fortalecer as medidas de segurança da plataforma.
Como sabemos, os modelos de IA requerem maior poder de GPU para executar suas funções, para o qual startups e outros fornecedores menores dependem de empresas provedoras de serviços de IA. A interface API do Hugging Face também fornece o mesmo serviço. No processo, a WIZ Research executou seu próprio modelo de IA malicioso com algumas características desagradáveis que comprometeram o serviço do Hugging Face. Isso tornou o sistema vulnerável, e a WIZ pôde acessar outros modelos de clientes que estavam utilizando o serviço do Hugging Face.
Soluções e remédios para proteção em plataformas AIaaS
WIZ afirmou em seu blog que essas deficiências e descobertas não estão afetando apenas o Hugging Face, mas têm implicações mais amplas para toda a indústria de IA como serviço. Todos os jogadores da indústria estão em risco de magnitude, pois os hackers os veem como um GitHub de modelos de IA e buscam obter acesso entre usuários ilegalmente.
Hugging Face e Wiz sugeriram conjuntamente algumas precauções para evitar violações de segurança; eles aconselharam controles de segurança rigorosos e monitoramento regular das atividades. Eles também sugeriram o uso de registros seguros e fornecer um ambiente isolado para executar aplicativos do usuário, tornando os locais onde eles armazenam seus códigos mais protegidos para evitar acesso entre usuários.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
