Líderes da Tecnologia Abraçam a IA Generativa para Defesa Cibernética: Relatório PwC
- A adoção de IA generativa na defesa cibernética está em ascensão, com 70% dos líderes de TI planejando implementá-la dentro de um ano.
- A natureza dual da IA Generativa apresenta tanto oportunidades quanto ameaças no cenário de segurança cibernética.
- Para combater as ameaças cibernéticas em evolução, as organizações devem garantir a segurança do pipeline de IA, colaborar ao nível do conselho administrativo e investir em mecanismos inovadores de detecção e defesa.
À medida que o cenário de segurança cibernética evolui, um relatório da PwC revela que 70% dos líderes de tecnologia e negócios planejam adotar a IA Generativa para defesa cibernética nos próximos 12 meses. Essa mudança ocorre em resposta à crescente sofisticação das ameaças cibernéticas, impulsionada pela capacidade da IA Generativa de criar e-mails comerciais convincentes em larga escala.
Elevando o alerta sobre a segurança cibernética
O domínio digital está em constante evolução, assim como as táticas dos cibercriminosos. Os sistemas tradicionais de segurança cibernética estão enfrentando desafios crescentes, principalmente devido às capacidades crescentes da IA Generativa. De acordo com o relatório de 2024 da PwC sobre Insights de Confiança Digital, 70% dos líderes de tecnologia e negócios antecipam usar a IA Generativa como um componente-chave de sua estratégia de defesa cibernética.
Este desenvolvimento visa mitigar a crescente inquietação em torno dos métodos tradicionais de segurança cibernética, já que a capacidade da IA Generativa de gerar e-mails comerciais sofisticados em escala alimentou o perigo das ameaças cibernéticas. Um sentimento predominante entre os especialistas da indústria indica que 52% antecipam que a IA Generativa liderará ataques cibernéticos catastróficos no próximo ano.
A natureza dual da IA generativa
Embora a IA Generativa prometa fortalecer a defesa cibernética, ela também apresenta uma ferramenta formidável no arsenal dos cibercriminosos. Os atacantes podem aproveitar as capacidades da tecnologia para criar e-mails atraentes e conteúdo realista de deepfake, incluindo vídeos, gravações e imagens, para atingir indivíduos desavisados por meio de esquemas de phishing.
Um relatório de inteligência de ameaças em tempo real da SlashNext destaca que os cibercriminosos estão entre os usuários mais frequentes de chatbots de modelos de linguagem grande (LLM). Esses atores maliciosos empregam chatbots LLM para criar ataques de comprometimento de e-mail comercial (BEC) e executar campanhas de phishing meticulosamente direcionadas. Desde o lançamento do ChatGPT da OpenAI no final de 2022, os e-mails de phishing maliciosos registraram um aumento notável de 1.265%.
Além disso, a adaptabilidade da IA Generativa permite que atores maliciosos modifiquem facilmente códigos de ataque estabelecidos, tornando-os apenas diferentes o suficiente para evitar a detecção. A prevalência da IA Generativa tornou-se um ponto focal na dark web, com menções proliferando ao longo do ano em curso.
Ameaças em evolução e malware autoevolutivo
Um dos aspectos mais preocupantes da IA Generativa nos ataques cibernéticos é a criação de linhagens de malware que se autoevoluem. Essas linhagens geram variações adaptadas para atacar alvos específicos, empregando técnicas, payloads e código polimórficos únicos. Essa adaptabilidade efetivamente evade a detecção pelas medidas de segurança existentes. Neste cenário de alta stakes de segurança cibernética, apenas as operações mais ágeis e adaptáveis manterão uma vantagem contra essas ameaças em evolução.
Fortalecendo as Defesas Cibernéticas
Para fortalecer as defesas contra as ameaças crescentes posedas por ataques cibernéticos impulsionados por IA Generativa, os especialistas da indústria enfatizam as seguintes estratégias:
1. Proteger todo o pipeline de IA
Proteger e criptografar os dados usados no treinamento e ajuste fino dos modelos de IA é crucial. A verificação contínua de vulnerabilidades, malware e corrupção durante o desenvolvimento do modelo é identificada como uma etapa crítica para fortalecer as defesas contra possíveis violações.
2. Discussões colaborativas em nível de conselho
Líderes de segurança cibernética, tecnologia, dados e operações devem se reunir para discussões em nível de conselho. Essas discussões devem focar nos riscos em evolução, especificamente como a IA Generativa pode ser explorada para expor dados sensíveis e permitir acesso não autorizado aos sistemas.
3. Detecção e defesa inovadoras
Embora os controles de segurança existentes possam ser estendidos para proteger a infraestrutura e os dados que suportam os sistemas de IA, é fundamental entender a necessidade de métodos inovadores especificamente projetados para detectar e interromper ataques de IA adversarial. Medidas proativas são essenciais para combater a crescente onda de ameaças cibernéticas originadas da IA Generativa.
À medida que a IA Generativa se torna tanto um ativo para os defensores quanto uma arma potente nas mãos dos cibercriminosos, as organizações devem encontrar um equilíbrio delicado. Adotar essa tecnologia para uso ético e responsável, ao mesmo tempo em que se fortalecem as medidas de segurança cibernética, é imperativo. Conscientização, proteção do pipeline de IA e investimento em defesas de ponta são as chaves para navegar com sucesso no cenário de segurança cibernética em evolução. Em um mundo digital marcado por mudanças constantes, essas estratégias serão essenciais para proteger dados sensíveis e manter a confiança no domínio digital.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. Este é um comunicado de imprensa pago. Os leitores devem fazer sua própria diligência antes de tomar qualquer ação relacionada à empresa promovida ou a qualquer uma de suas afiliadas ou serviços. Cryptopolitan.com não é responsável, direta ou indiretamente, por qualquer dano ou perda causada ou alegadamente causada por ou em conexão com o uso ou dependência de qualquer conteúdo, bens ou serviços mencionados no comunicado de imprensa.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
