NIST Sinaliza Vulnerabilidades na IA – Ataques Cibernéticos Representam Ameaças Não Resolvidas
- O Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio dos EUA lançou um relatório destacando quatro tipos de ataques cibernéticos que ameaçam sistemas de IA, sem defesas infalíveis disponíveis.
- Ataques de aprendizado de máquina adversarial incluem hackers white-box, sandbox e gray-box, explorando vulnerabilidades em sistemas de IA e correndo o risco de consequências graves.
- O relatório enfatiza os desafios de defender a IA, citando a dificuldade em 'desaprender' comportamentos maliciosos e os riscos crescentes à medida que a IA se integra a diversos aspectos da nossa economia conectada.
Na paisagem em constante evolução da tecnologia, a promessa da inteligência artificial (IA) é encontrada com uma preocupação crescente: a vulnerabilidade dos sistemas de IA a ciberataques. Recentemente, o Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio dos EUA revelou um relatório sobre “IA Confiável e Responsável”, lançando luz sobre os desafios persistentes na defesa dos sistemas de IA contra agentes maliciosos. O relatório identifica quatro tipos de ciberataques que poderiam manipular o comportamento dos sistemas de IA, instando a comunidade a desenvolver defesas mais robustas.
As ameaças do aprendizado de máquina adversarial
O relatório do NIST aprofunda-se nas intricacidades do aprendizado de máquina adversarial, categorizando os potenciais atacantes em três tipos distintos: hackers de caixa branca, hackers de sandbox e hackers de caixa cinza. Os hackers de caixa branca possuem conhecimento completo dos sistemas de IA, os hackers de sandbox têm acesso mínimo e os hackers de caixa cinza detêm informações parciais sobre um sistema de IA, mas não têm acesso aos seus dados de treinamento. Apesar de seus graus variados de insight, todos os três representam sérias ameaças à integridade dos sistemas de IA.
A fraude no domínio digital está em ascensão, conforme apontado por Gerhard Oosthuizen, CTO da Entersekt. A tecnologia que inicialmente prometia vitórias agora apresenta mais desafios diante do aumento da sofisticação nas atividades fraudulentas. O relatório do NIST destaca os riscos crescentes à medida que a IA se torna cada vez mais embutida em nossa economia conectada.
O relatório destaca dois ataques principais de aprendizado de máquina adversarial: envenenamento e abuso. O envenenamento do sistema de IA envolve a injeção de dados corrompidos durante a fase de treinamento, levando a sistemas com mau funcionamento. O NIST cita um exemplo em que um ator mal-intencionado introduz linguagem inadequada nos registros de conversação, fazendo com que um chatbot adote essas instâncias como linguagem comum nas interações com os clientes.
Por outro lado, os ataques de abuso envolvem a inserção de informações incorretas em uma fonte legítima que o sistema de IA absorve. Esses ataques visam reaproveitar o uso pretendido do sistema de IA, fornecendo-lhe peças incorretas de informação. Alina Oprea, coautora do relatório do NIST e professora da Northeastern University, nota a simplicidade desses ataques, exigindo conhecimento mínimo e capacidades adversariais.
Ciberataques revelados – Navegando pela complexidade da defesa da IA
Ataques de privacidade e ataques de evasão adicionam camadas adicionais de complexidade à defesa da IA. Ataques de privacidade tentam obter informações sensíveis sobre a IA ou seus dados de treinamento, usando perguntas legítimas para reengenharia reversa do modelo. Ataques de evasão, ocorrendo após a implantação, buscam alterar as respostas do sistema de IA a entradas tradicionais. Isso inclui modificações enganosas em placas de trânsito, representando riscos para veículos autônomos.
O desafio abrangente reside na dificuldade de fazer com que os modelos de IA esqueçam comportamentos ensinados, mesmo quando se provam maliciosos ou prejudiciais. À medida que a IA se torna mais enraizada em nossas vidas diárias, o relatório alerta para a necessidade crescente de abordar essas vulnerabilidades para prevenir falhas catastróficas.
À medida que o espectro dos ciberataques paira sobre o avanço da IA, o relatório do NIST chama a atenção para os desafios não resolvidos na segurança dos sistemas de IA. O chamado à comunidade por melhores defesas sublinha a urgência de abordar essas vulnerabilidades. A comunidade de IA conseguirá coletivamente desenvolver medidas infalíveis para se proteger contra ameaças cibernéticas em evolução, ou estamos destinados a navegar no labirinto em constante expansão de ataques de aprendizado de máquina adversarial? O futuro da defesa da IA depende de nossa capacidade de inovar e ficar um passo à frente daqueles que buscam explorar suas vulnerabilidades.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
