O Google alerta para vulnerabilidades em sua IA após hackers atacarem o Gemini
- O Google informou que grupos de ameaças persistentes avançadas (APT, na sigla em inglês) apoiados por governos tentaram invadir o sistema.
- Os hackers tentaram manipular o Gemini usando táticas simples, como reformular as perguntas ou enviar solicitações repetidas.
- O Google continua a aprimorar as medidas de segurança do Gemini para evitar o uso indevido de IA por agentes maliciosos.
O Google emitiu um alerta sobre os potenciais riscos de segurança associados à inteligência artificial (IA) depois que hackers patrocinados por estados tentaram explorar seu modelo de IA Gemini.
No entanto, seus esforços para invadir o sistema acabaram sendo infrutíferos.
de inteligência de ameaças do Google (GTIG) publicou um artigo sobre "Uso indevido de IA generativa por adversários", que explica como agentes maliciosos interagiram com o chatbot de IA Gemini.
Hackers tentam desbloquear o Gemini AI do Google, mas falham com truques simples
O Google relata que agentes maliciosos tentaram desbloquear a IA Gemini usando comandos, incluindo esforços de grupos de ameaças persistentes avançadas (APT) apoiados por governos para explorar a IA em atividades maliciosas.
No entanto, a corporação multinacional americana não encontrou evidências de tentativas avançadas de invasão da rede.
Em vez disso, os hackers usaram abordagens diretas, como digitar frases diferentes ou repetir a mesma solicitação várias vezes. O Google comentou que essas tentativas não tiveram sucesso.
Os ataques de jailbreak com auxílio de IA são ataques de injeção rápida que tentam burlar restrições e fazer com que um modelo de IA execute ações proibidas, como revelar informações confidenciais ou criar conteúdo prejudicial.
Segundo o Google, um agente APT tentou explorar o Gemini usando prompts de jailbreak disponíveis publicamente para gerar código malicioso. No entanto, a tentativa falhou, pois o Gemini respondeu com uma saída filtrada por segurança.
O Google mencionou que os atacantes buscavam atingir diferentes objetivos maliciosos com a ajuda do Gemini, como coletar informações sobre alvos,dentvulnerabilidades em fontes abertas e escrever códigos e scripts. Além disso, algumas tentativas foram feitas para dar suporte a ações pós-comprometimento, por exemplo, para evitar a detecção.
Irã, China e Coreia do Norte exploram a inteligência artificial Gemini do Google para operações cibernéticas
Segundo o Google, grupos APT baseados no Irã utilizaram principalmente IA para criar campanhas de phishing. Eles também usaram o Gemini para realizar reconhecimento de especialistas e organizações de defesa e gerar conteúdo relacionado à segurança cibernética.
Enquanto isso, os agentes APT chineses têm utilizado o Gemini para solucionar problemas de código, scripts e tarefas de desenvolvimento. Eles também usaram IA para explorar métodos de acesso mais profundo às redes-alvo.
O grupo de inteligência de ameaças do Google e grupos APT norte-coreanos utilizaram o Gemini em diferentes fases do ciclo de vida de um ataque, como pesquisa e desenvolvimento pré-ataque. O relatório afirma:
Eles também usaram o Gemini para pesquisar assuntos de interesse estratégico para o governo norte-coreano, como as forças armadas sul-coreanas e criptomoedas.
– GTIG
No ano passado, hackers norte-coreanos roubaram US$ 1,3 bilhão em ativos digitais, de acordo com a Chainalysis.
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. CryptopolitanO não se responsabiliza por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamostrona realização de pesquisas independentesdent /ou a consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Nélio Irene
Nellius é formada em Administração de Empresas e TI, com cinco anos de experiência no setor de criptomoedas. Ela também é graduada pela Bitcoin Dada. Nellius já contribuiu para importantes publicações de mídia, incluindo BanklessTimes, Cryptobasic e Riseup Media.
