Google alerta para vulnerabilidades de IA enquanto hackers visam Gemini
- O Google relata que grupos de ameaça persistente avançada (APT) apoiados por governos tentaram realizar jailbreak.
- Hackers tentaram manipular o Gemini usando táticas simples, como reformular prompts ou enviar solicitações repetidas.
- O Google continua a aprimorar as medidas de segurança do Gemini para prevenir o uso indevido da IA por agentes de ameaças.
O Google emitiu um aviso sobre os potenciais riscos de segurança associados à inteligência artificial (IA) após hackers patrocinados pelo estado tentarem explorar seu modelo de IA Gemini.
No entanto, seus esforços para quebrar o sistema foram finalmente malsucedidos.
A inteligência de ameaças do Google grupo (GTIG) publicou um artigo sobre 'Uso Adversarial de IA Generativa', que explica como atores de ameaças conversaram com seu chatbot de IA, Gemini.
Hackers tentam quebrar a IA Gemini do Google, mas falham com truques simples
O Google relata que atores de ameaças tentaram quebrar a IA Gemini usando prompts, incluindo esforços de grupos de ameaça persistente avançada (APT) apoiados por governos para aproveitar a IA para atividades maliciosas.
No entanto, a corporação multinacional americana não encontrou evidências de tentativas avançadas de quebra de sistema.
Em vez disso, os hackers usaram abordagens diretas, como digitar frases diferentes ou repetir o mesmo pedido muitas vezes. O Google comentou que essas tentativas foram malsucedidas.
Quebras de sistema com a ajuda da IA são ataques de injeção de prompt que tentam evitar restrições e fazer com que um modelo de IA execute ações proibidas, como revelar informações sensíveis ou criar conteúdo prejudicial.
De acordo com o Google, um ator APT tentou explorar o Gemini usando prompts de quebra de sistema publicamente disponíveis para gerar código malicioso. No entanto, a tentativa falhou, pois o Gemini respondeu com uma saída filtrada por segurança.
O Google mencionou que os atacantes buscavam alcançar diferentes objetivos malignos com a ajuda do Gemini, como reunir informações sobre alvos, identificar vulnerabilidades de fontes abertas e escrever código e scripts. Além disso, algumas tentativas foram feitas para apoiar ações pós-invasão, por exemplo, para evitar a detecção.
Irã, China e Coreia do Norte exploram a IA Gemini do Google para operações cibernéticas
De acordo com o Google, grupos APT baseados no Irã aproveitaram principalmente a IA para criar campanhas de phishing. Eles também usaram o Gemini para realizar reconhecimento de especialistas em defesa e organizações e gerar conteúdo relacionado à segurança cibernética.
Enquanto isso, os atores APT da China aproveitaram o Gemini para solucionar problemas de código, scripting e tarefas de desenvolvimento. Eles também usaram a IA para explorar métodos para obter acesso mais profundo às redes de destino.
O grupo de inteligência de ameaças do Google e grupos APT da Coreia do Norte usaram o Gemini em diferentes fases do ciclo de vida do ataque, como pesquisa e desenvolvimento pré-ataque. O relatório disse:
Eles também usaram o Gemini para pesquisar assuntos de interesse estratégico para o governo norte-coreano, como o militar sul-coreano e as criptomoedas.
– GTIG
No ano passado, hackers norte-coreanos roubaram US$ 1,3 bilhão em ativos digitais, de acordo com a Chainalysis.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Nellius Irene
Nellius é graduada em Gestão de Negócios e TI, com cinco anos de experiência no setor de criptomoedas. Também é formada pela Bitcoin Dada. Nellius contribuiu para publicações de mídia de destaque, incluindo BanklessTimes, Cryptobasic e Riseup Media.
