Adoção de IA expõe novas ameaças à segurança cibernética

Um especialista em cibersegurança revelou que a IA representa uma ameaça à segurança cibernética das empresas que a utilizam como serviço, não apenas por meio de ataques criminosos, mas também de uso legítimo.

Vulnerabilidades cibernéticas da IA

Embora a ameaça representada por agentes maliciosos que usam IA para realizar ataques tenha sido amplamente discutida, Peter Garraghan, CEO e CTO da Midgard, empresa que fornece cibersegurança especificamente para IA, afirma: "O problema que tenho em mente é uma ameaça à cibersegurança da IA, que é o tema central desta discussão."

Como era de se esperar, o uso mais comum e, portanto, mais arriscado da IA ​​pelas empresas está relacionado aos chatbots que atuam no atendimento ao cliente e cujo tom e dados são geralmente personalizados para as organizações que representam. Foi nesse contexto que o Dr. Garraghan, professor de ciência da computação da Universidade de Lancaster, especializado em segurança e sistemas de IA, decidiu encontrar a Mindgard em 2022. "A IA não é mágica", afirma ele. É simplesmente uma combinação de programação, dados e hardware adicionais. Diante das ameaças cibernéticas atuais, todas essas ameaças também podem se manifestar na IA.

Vamos pensar da seguinte forma: suponha que um atacante utilize um processo conhecido como injeção de SQL. Um atacante pode usar esse processo para explorar vulnerabilidades em campos de formulários web, como logins ou formulários de contato. Outra forma de utilização da ingestão de dados do teleprompter é a injeção de prompts, que é usada em aplicações públicas. Em primeiro lugar, se a segurança não for adequadamente garantida, as ferramentas de IA podem ser praticamente coagidas a vazar seu código-fonte e instruções, propriedade intelectual da empresa ou dados de clientes. Em segundo lugar, as ferramentas de IA podem ser submetidas a engenharia reversa, como outros softwares, paradentfalhas.

Protegendo sistemas de IA

Garraghan comenta sobre a gravidade do problema: No futuro previsto, daqui a alguns anos, poderá surgir a questão da segurança nacional, ou as pessoas marginalizadas poderão estar em risco. As novas informações parecem servir de alerta: as empresas devem ter cautela com os dados divulgados.

Garraghan afirma: “Além disso, a IA pode servir como uma ferramenta de ciberataque, capaz de vazar dados; o modelo poderá fornecer os dados que você tão gentilmente solicitou.” Como exemplo, em janeiro, a plataforma de mídia social de direita Gab procurou tutoriais que acidentalmentedentbaseada em GPT, OpenAI, também já teve seus modelos usados ​​indevidamente.

Garraghan afirma que informações podem ser obtidas por meio de ataques VoIP não autorizados. Além disso, a IA pode ser alvo de engenharia reversa, e o sistema pode ser burlado ou enganado para obter acesso irrestrito a outros sistemas. Assim, o vazamento de informações pode ser uma das principais áreas de vulnerabilidade em todos os setores, inclusive aqueles que enfrentam problemas internos ou externos. Ele também enumera outros riscos, como a evasão de modelo, na qual o modelo é mal direcionado ou intencionalmente burlado por meio da fabricação de dados falsos.

Garraghan destacou que a inserção de comandos maliciosos ou a contaminação de dados com soluções mal concebidas em tracde áudio representa outra ameaça. Além disso, ele observa que o impacto cibernético geral se resume ao dano à reputação comumente sofrido após ataques cibernéticos. Da mesma forma, as áreas com maior risco de sofrer as consequências negativas desse tipo de ataque cibernético são aquelas onde os riscos são mais elevados. Com muitas indústrias e instituições operando online, a segurança pública e a ausência de vazamento de informaçõesdent, por exemplo, são valores importantes que os setores de serviços financeiros e saúde devem priorizar.

Garraghan afirma: A ligação aqui é que quanto mais estruturada e controladora for a sua indústria e quanto mais riscos você enfrentar com a IA (e também por experiência: quanto menos você usa IA, menos você a adota), pior será a sua IA. Talvez eles não sejam os mais preguiçosos. Por exemplo, eles podem simplesmente estar passando pelas fases mais difíceis de suas vidas.

Medidas proativas de segurança de IA

A IA cuidará desses riscos em qualquer empresa específica, embora ele diga que serão necessárias camadas de segurança (porque a IA nos negócios já as exige) para a proteção dos usuários. "Já existem ferramentas de cibersegurança especializadas em diferentes setores", diz Garraghan. "Podem ser ferramentas de gerenciamento de postura de segurança, ferramentas de detecção e resposta, firewalls e suporte para o design 'shift left', como a análise de código. Em breve, você precisará de IA em linha com a transformação digital." O gênero se especializa exclusivamente em IA e ML, enquanto sistemas como redes neurais são mencionados apenas ocasionalmente.

Você precisará de um scanner de aplicativos de redes neurais, um sistema de resposta para todos os tipos de redes neurais, testes de segurança e simulações de intrusão (red teaming) para um melhor controle entre os aplicativos. É mais fácil corrigir e remediar problemas iniciais do que problemas em tempo de execução. No entanto, a melhor prática que recomendamos para organizações que utilizam modelos de IA ou aplicativos e serviços de IA adquiridos é que, antes da entrada em produção, é mais fácil corrigir todos os problemas com os modelos. Depois da entrada em produção, apenas os problemas que precisam ser corrigidos podem serdent.