A Adoção de IA Expõe Novas Ameaças de Cibersegurança

Um especialista em cibersegurança revelou que AI é uma ameaça de cibersegurança insegura para corporações que a usam como seu serviço, não apenas por meio da execução de ataques por criminosos, mas também legitimamente.

Vulnerabilidades cibernéticas da IA

Embora a ameaça representada por atores mal-intencionados usando IA para entregar ataques tenha sido amplamente discutida, Peter Garraghan, CEO e CTO da Midgard, que fornece cibersegurança especificamente para IA, diz: “O problema que tenho em mente é uma ameaça de cibersegurança para a IA, que é a que está no tópico.”

Previsivelmente, o uso mais comum e, portanto, em risco de IA pelas empresas relaciona-se a chatbots que servem como atendimento ao cliente e cujo tom e dados são tipicamente personalizados para as organizações que representam. É aqui que o Dr. Garraghan, professor de ciência da computação na Lancaster University especializado em segurança e sistemas de IA, decidiu encontrar a Mindgard em 2022. “A IA não é mágica”, diz ele. É apenas uma combinação de codificação adicional, dados e hardware. Dadas as ameaças cibernéticas dos dias atuais, todas essas ameaças também podem se manifestar na IA.

Vamos pensar dessa maneira: suponha que um atacante use um processo conhecido como injeção de SQL. Um atacante pode usar esse processo para explorar vulnerabilidades em campos de formulários web, como login do site ou formulário de contato. Outra maneira de ingestão de teleprompter pode ser utilizada é a injeção de prompt, que é usada em aplicativos públicos. Em primeiro lugar, se a segurança não for adequadamente garantida, as ferramentas de IA podem praticamente ser chicoteadas para vazar seu código-fonte e instruções, IP da empresa ou dados do cliente. Em segundo lugar, as ferramentas de IA podem ser desmontadas como outros aplicativos de software para identificar falhas.

Protegendo sistemas de IA

Garraghan diz sobre a gravidade do problema: No futuro imaginado, em alguns anos, o fator de segurança nacional pode surgir, ou as pessoas despossuídas podem estar em risco. As novas informações parecem um aviso: um negócio deve ter cuidado com os dados liberados.

Garraghan diz: “Além disso, a IA pode servir como uma ferramenta de ciberataque onde pode vazar dados; o modelo será capaz de fornecer os dados que você solicitou com tanta gentileza.” Apresentando um exemplo em janeiro, a plataforma de mídia social de direita Gab procurou tutoriais que revelaram acidentalmente suas instruções. A plataforma baseada em GPT OpenAI anteriormente teve seus modelos mal utilizados também.

Garraghan afirma que as informações podem ser obtidas por meio de ataques VoIP não autorizados. Além disso, a IA pode ser desmontada, e o sistema pode ser contornado ou enganado para abrir acesso a outros sistemas. Assim, o vazamento de informações pode ser uma das principais áreas transversais em todas as indústrias, incluindo aquelas que podem ser voltadas para o exterior ou internamente. Ele também enumera outros riscos, como evasão de modelo, onde o modelo é desviado ou propositalmente evitado pela fabricação de dados enganosos.

Garraghan apontou que inserir comandos maliciosos ou contaminar faixas de áudio com soluções mal concebidas é outra ameaça. Além disso, ele observa que o impacto cibernético geral é o dano reputacional comumente experimentado após ataques cibernéticos. Da mesma forma, as áreas com maior risco das consequências negativas desse tipo de ciberataque são onde as apostas são mais altas. Com muitas indústrias e instituições que operam online, a segurança pública e a falta de informações confidenciais vazadas, por exemplo, são valores importantes que os setores de serviços financeiros e saúde devem priorizar.

Garraghan diz: O link aqui é que, quanto mais estruturado e controlador você for em sua indústria e quanto mais riscos você enfrentar da IA (e também da experiência: quanto menos você usa IA, menos adota), pior será sua IA. Talvez eles não sejam os mais preguiçosos. Por exemplo, eles podem simplesmente estar passando pelas etapas mais graves de suas vidas.

Medidas proativas de segurança de IA

A IA cuidará desses riscos em qualquer empresa específica, embora ele diga que exigirá camadas de segurança (porque a IA nos negócios já precisa delas) para proteção dos usuários. “Você já tem ferramentas de cibersegurança especializadas em diferentes setores”, diz Garraghan. “Estas podem ser ferramentas de gerenciamento de postura de segurança, detecção, ferramentas de resposta, firewalls e suporte para a mudança de design à esquerda, como análise de código. Em breve, você precisará de AI alinhado com a transformação digital.” O gênero se especializa exclusivamente em IA e ML, enquanto sistemas como redes neurais são mencionados apenas ocasionalmente

Você precisará de um scanner de aplicativos de redes neurais, um sistema de resposta de todos os tipos de redes neurais, testes de segurança e red teaming para melhor controle entre aplicativos, e você precisará de um sistema de resposta de todos os tipos de redes neurais. É mais fácil corrigir e remediar problemas cedo em vez de problemas em tempo de execução. No entanto, a melhor prática que recomendamos a organizações que usam modelos de IA ou aplicativos de IA e serviços comprados é que, antes de ir para a produção, é mais fácil corrigir todos os problemas com os modelos. Então, depois de ir para a produção, apenas problemas que precisam ser corrigidos podem ser identificados.