A Armação da IA é a Nova Norma na Guerra Cibernética? Insights da Microsoft e OpenAI
- As grandes potências mundiais estão utilizando modelos de linguagem de grande escala (LLMs) para aprimorar suas capacidades cibernéticas ofensivas, conforme revelado pela OpenAI e Microsoft.
- Cinco atores de ameaças notórios alinhados com a China, Irã, Coreia do Norte e Rússia foram identificados explorando o software da OpenAI para fins maliciosos.
- Apesar das preocupações, o uso observado da tecnologia LLM ainda não resultou em ataques devastadores, mas especialistas alertam para possíveis ameaças futuras e enfatizam a importância de permanecer vigilante.
Em uma revelação inovadora que lança luz sobre o cenário de segurança cibernética em evolução, a Microsoft e a OpenAI descobriram uma tendência preocupante: estados-nação estão armando a IA em ciberataques. A colaboração entre esses gigantes da tecnologia expôs a utilização de modelos de linguagem grandes (LLMs) por atores de ameaça proeminentes alinhados com grandes potências globais, marcando um desenvolvimento significativo no campo da segurança cibernética.
Os APTs de estado-nação usando OpenAI
Insights de especialistas sobre o estado atual e as possíveis implicações futuras das ameaças cibernéticas impulsionadas por IA lançam luz sobre o cenário em evolução da segurança cibernética. Esses atores de ameaça, associados à China, Irã, Coreia do Norte e Rússia, aproveitam a IA para vários propósitos, desde a coleta de inteligência até ataques de phishing e geração de código. Grupos notáveis, como Fancy Bear, Charcoal Typhoon e Crimson Sandstorm, estão entre aqueles que utilizam a tecnologia OpenAI para atividades maliciosas.
Fancy Bear, também conhecida como Forest Blizzard, notória por sua associação com o Diretório Principal do Estado-Maior das Forças Armadas da Federação Russa (GRU), incorpora LLMs em operações para tarefas de script, coleta de inteligência e pesquisa de protocolos de comunicação por satélite, particularmente relevante no conflito da Ucrânia.
Atores estatais chineses, Charcoal Typhoon e Salmon Typhoon, demonstram proficiência em atividades impulsionadas por IA, como coleta de informações, geração de scripts e engenharia social. Da mesma forma, o Crimson Sandstorm do Irã utiliza a OpenAI para desenvolver materiais de phishing enganosos e otimizar operações por meio de trechos de código gerados por IA.
Emerald Sleet, atribuído ao regime de Kim Jong-Un, envolve-se em tarefas básicas de script e geração de conteúdo de phishing, além de aproveitar os LLMs para pesquisar vulnerabilidades e coletar inteligência relacionada à defesa. Esses casos destacam as aplicações diversas e em evolução da IA nas operações cibernéticas por atores de ameaça de estados-nação.
Armando a IA – O impacto da IA na segurança cibernética ainda é limitado por enquanto
Apesar da utilização de LLMs por atores de ameaça, especialistas enfatizam que o impacto da IA nos ciberataques permanece limitado, servindo principalmente para aprimorar capacidades existentes em vez de revolucionar os métodos de ataque. No entanto, há preocupações quanto à escalabilidade e adaptabilidade dos ataques alimentados por IA, o que leva a chamados por vigilância contínua e adesão às melhores práticas de segurança cibernética.
Joseph Thacker, engenheiro principal de IA e pesquisador de segurança na AppOmni, reforça a noção de que, embora a IA ofereça vantagens para os atacantes, seu potencial transformador ainda não foi totalmente realizado. Thacker sugere que os atores de ameaça proficientes em desenvolvimento de software estão aproveitando os LLMs para acelerar a criação de código malicioso, aumentando assim sua eficiência operacional. No entanto, ele enfatiza que a natureza fundamental das ameaças cibernéticas não passou por mudanças significativas, com a IA facilitando principalmente melhorias incrementais em vez de inovações revolucionárias nas metodologias de ataque.
Thacker destaca o potencial para ataques habilitados por IA se expandirem em escala e escopo, facilitado pela versatilidade dos LLMs na tradução de idiomas e conversão de código. Embora as operações cibernéticas atuais impulsionadas por IA possam não exibir técnicas novas, Thacker alerta para a possibilidade de avanços não detectados em vetores de ameaça baseados em IA. Como tal, ele defende uma abordagem proativa para a segurança cibernética, enfatizando a importância do monitoramento contínuo e de medidas de defesa robustas para mitigar ameaças em evolução.
A integração da IA nas operações cibernéticas de estados-nação apresenta tanto desafios quanto oportunidades para as partes interessadas em segurança cibernética. Embora as observações atuais sugiram que os ataques aprimorados por IA ainda não atingiram todo o seu potencial, a natureza dinâmica da tecnologia exige vigilância e adaptação contínuas. À medida que o cenário de segurança cibernética evolui, a pergunta permanece: como as organizações podem navegar efetivamente na interseção entre IA e guerra cibernética para se proteger contra ameaças emergentes?
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
