Com a evolução do cenário da cibersegurança, um relatório da PwC revela que 70% dos líderes de tecnologia e negócios planejam adotar a IA generativa para defesa cibernética nos próximos 12 meses. Essa mudança ocorre em resposta à crescente sofisticação das ameaças cibernéticas, impulsionada pela capacidade da IA generativa de criar e-mails comerciais convincentes em larga escala.
Alertando sobre a segurança cibernética
O mundo digital está em constante evolução, assim como as táticas dos cibercriminosos. Os sistemas tradicionais de cibersegurança enfrentam desafios crescentes, principalmente devido às capacidades cada vez maiores da Inteligência Artificial Generativa. De acordo com o relatório Digital Trust Insights 2024 da PwC, 70% dos líderes de tecnologia e negócios preveem usar a IA Generativa como um componente essencial de sua estratégia de defesa cibernética.
Este desenvolvimento visa mitigar a crescente preocupação em torno dos métodos tradicionais de cibersegurança, visto que a capacidade da IA generativa de gerar e-mails comerciais sofisticados em larga escala tem alimentado o perigo das ameaças cibernéticas. Um sentimento predominante entre os especialistas do setor indica que 52% preveem que a IA generativa será a responsável por ciberataques catastróficos no próximo ano.
A natureza dual da IA generativa
Embora a IA generativa prometa reforçar a defesa cibernética, ela também representa uma ferramenta formidável no arsenal dos cibercriminosos. Os atacantes podem explorar os recursos da tecnologia para criar e-mails atraentes e conteúdo deepfake realista, incluindo vídeos, gravações e imagens, para atingir indivíduos desavisados por meio de golpes de phishing.
Um relatório de inteligência de ameaças em tempo real da SlashNext destaca que os cibercriminosos estão entre os usuários mais frequentes de chatbots com modelos de linguagem amplos (LLM). Esses agentes maliciosos empregam chatbots com LLM para criar ataques de comprometimento de e-mail comercial (BEC) e executar campanhas de phishing meticulosamente direcionadas. Desde o lançamento do ChatGPT da OpenAI no final de 2022, os e-mails de phishing maliciosos registraram um aumento notável de 1.265%.
Além disso, a adaptabilidade da IA generativa permite que agentes maliciosos modifiquem facilmente códigos de ataque já estabelecidos, tornando-os suficientemente diferentes para evitar a detecção. A prevalência da IA generativa tornou-se um ponto central na dark web, com menções proliferando ao longo deste ano.
Ameaças em constante evolução e malware em autoevolução
Um dos aspectos mais preocupantes da IA generativa em ciberataques é a criação de variantes de malware que evoluem por conta própria. Essas variantes geram variações personalizadas para atacar alvos específicos, empregando técnicas, cargas úteis e código polimórfico exclusivos. Essa adaptabilidade permite que o malware evite a detecção pelas medidas de segurança existentes. Nesse cenário de cibersegurança de alto risco, apenas as operações mais ágeis e adaptáveis manterão a vantagem contra essas ameaças em constante evolução.
Fortalecimento das Defesas Cibernéticas
Para fortalecer as defesas contra as crescentes ameaças representadas por ciberataques impulsionados por IA generativa, especialistas do setor enfatizam as seguintes estratégias:
1. Garanta a segurança de toda a cadeia de valor da IA
Garantir a segurança e a criptografia dos dados usados no treinamento e no ajuste fino de modelos de IA é crucial. A varredura contínua em busca de vulnerabilidades, malware e corrupção durante o desenvolvimento do modelo édentcomo uma etapa crítica para fortalecer as defesas contra possíveis violações.
2. Discussões colaborativas em nível de diretoria
Líderes das áreas de cibersegurança, tecnologia, dados e operações devem se reunir para discussões em nível de diretoria. Essas discussões devem se concentrar nos riscos emergentes, especificamente em como a IA generativa pode ser explorada para expor dados sensíveis e permitir acesso não autorizado a sistemas.
3. Detecção e defesa inovadoras
Embora os controles de segurança existentes possam ser ampliados para proteger a infraestrutura e os dados que suportam sistemas de IA, é fundamental compreender a necessidade de métodos inovadores especificamente projetados para detectar e impedir ataques adversários de IA. Medidas proativas são essenciais para combater a crescente onda de ameaças cibernéticas originadas da IA generativa.
À medida que a IA generativa se torna tanto um recurso valioso para os defensores quanto uma arma poderosa nas mãos dos cibercriminosos, as organizações precisam encontrar um equilíbrio delicado. Adotar essa tecnologia para um uso ético e responsável, ao mesmo tempo que se fortalecem as medidas de cibersegurança, é imprescindível. Conscientização, segurança do fluxo de IA e investimento em defesas de ponta são as chaves para navegar com sucesso no cenário de cibersegurança em constante evolução. Em um mundo digital marcado por mudanças constantes, essas estratégias serão essenciais para proteger dados sensíveis e manter a confiança no ambiente digital.
