O Centro Nacional de Segurança Cibernética (NCSC) do Reino Unido emitiu um alerta sobre o potencial de malware baseado em inteligência artificial se tornar uma ameaça significativa até 2025. Em um relatório recente, o NCSC, uma agência subordinada ao Quartel-General de Comunicações do Governo (GCHQ), afirmou que existe uma "possibilidade real" de que agentes estatais altamente capacitados possam usar IA para gerar malware capaz de burlar os filtros de segurança atuais. Esse desenvolvimento poderia inaugurar uma nova era de ameaças cibernéticas, afetando tudo, desde a descoberta de dispositivos vulneráveis até a análise de dados e até mesmo ataques de engenharia social.
Malware gerado por IA no horizonte
O relatório do NCSC destaca que a IA tem o potencial de produzir malware capaz de contornar as medidas de segurança existentes, mas isso requer dados de exploração de alta qualidade para o treinamento. A agência acredita que algumas entidades estatais altamente capacitadas podem possuir repositórios de malware suficientemente extensos para treinar modelos de IA com eficácia para esse fim. Embora se espere que os ciberataques mais avançados impulsionados por IA surjam em 2026 ou posteriormente, os primeiros usuários de ferramentas de IA generativa provavelmente serão os atacantes mais capazes.
O impacto da IA em dispositivos vulneráveis e na análise de dados
O NCSC prevê que a IA facilitará a descoberta de dispositivos vulneráveis por parte dos atacantes, reduzindo o tempo disponível para que os defensores os corrijam antes da exploração. Além disso, a IA aprimorará a análise de dados em tempo real, permitindo que os atacantesdentarquivos valiosos rapidamente, aumentando a eficiência de ações de sabotagem, extorsão e espionagem.
O relatório observa que conhecimento especializado, equipamentos, recursos financeiros e acesso a dados de qualidade são essenciais para aproveitar a IA avançada em operações cibernéticas. Atores estatais altamente capacitados estão em melhor posição para explorar o potencial da IA em ciberataques sofisticados. No entanto, espera-se que mesmo atacantes com habilidades e recursos limitados se beneficiem dos avanços da IA nos próximos quatro anos.
Inteligência artificial dando poder aos cibercriminosos
Na extremidade inferior do espectro, prevê-se que os cibercriminosos que empregam ataques de engenharia social utilizem ferramentas de IA generativa de nível de consumo, como ChatGPT, Google Bard e Microsoft Copilot. Isso pode resultar em tentativas de phishing mais convincentes e localizadas. Além disso, grupos de ransomware podem usar IA para análise de dados, permitindo tentativas de extorsão de dados mais eficazes,dentdados valiosos com maior facilidade.
Desafios para profissionais de segurança cibernética
O NCSC prevê que os ciberataques impulsionados por IA aumentarão em volume e impacto nos próximos dois anos, intensificando os desafios enfrentados pelos profissionais de cibersegurança. Esses profissionais já estão lidando com ameaças em constante evolução, e espera-se que a IA desempenhe um papel significativo na configuração do cenário de ameaças.
O NCSC está monitorando de perto o desenvolvimento da IA em ameaças cibernéticas. A conferência anual CYBERUK da agência, em maio, terá como foco a considerável ameaça que essa tecnologia emergente representa para a segurança nacional. A CEO cessante, Lindy Cameron, enfatizou a necessidade de gerenciar os riscos da IA, ao mesmo tempo em que se aproveita seu potencial para um desenvolvimento responsável.
Esforços globais para lidar com os riscos de segurança da IA
O alerta do NCSC surge na sequência da primeira Cimeira de Segurança da IA, realizada no Reino Unido, que levou à Declaração de Bletchley — uma iniciativa global para gerir os riscos da IA. Como parte deste esforço, os principais desenvolvedores de IA comprometeram-se a partilhar o seu código com os governos para garantir um desenvolvimento responsável da IA.
Embora o plano de testes de IA seja um passo na direção certa, ele não tem força de lei e não conta com o apoio de certos países. Isso levanta dúvidas sobre sua eficácia no combate à crescente ameaça de ciberataques impulsionados por IA.
O alerta do NCSC destaca o cenário de ameaças em constante evolução no ciberespaço, onde malware aprimorado por IA está no horizonte. Com o potencial de burlar as medidas de segurança atuais, a IA representa desafios para profissionais de cibersegurança, governos e organizações. À medida que o mundo lida com as implicações da IA nas ameaças cibernéticas, a vigilância e a cooperação internacional serão essenciais para se manter à frente das ameaças emergentes.
