O Google alerta para vulnerabilidades em sua IA após hackers atacarem o Gemini

O Google emitiu um alerta sobre os potenciais riscos de segurança associados à inteligência artificial (IA) depois que hackers patrocinados por estados tentaram explorar seu modelo de IA Gemini. 

No entanto, seus esforços para invadir o sistema acabaram sendo infrutíferos.

de inteligência de ameaças do Google (GTIG) publicou um artigo sobre "Uso indevido de IA generativa por adversários", que explica como agentes maliciosos interagiram com o chatbot de IA Gemini.

Hackers tentam desbloquear o Gemini AI do Google, mas falham com truques simples

O Google relata que agentes maliciosos tentaram desbloquear a IA Gemini usando comandos, incluindo esforços de grupos de ameaças persistentes avançadas (APT) apoiados por governos para explorar a IA em atividades maliciosas. 

No entanto, a corporação multinacional americana não encontrou evidências de tentativas avançadas de invasão da rede.  

Em vez disso, os hackers usaram abordagens diretas, como digitar frases diferentes ou repetir a mesma solicitação várias vezes. O Google comentou que essas tentativas não tiveram sucesso.

Os ataques de jailbreak com auxílio de IA são ataques de injeção rápida que tentam burlar restrições e fazer com que um modelo de IA execute ações proibidas, como revelar informações confidenciais ou criar conteúdo prejudicial.

Segundo o Google, um agente APT tentou explorar o Gemini usando prompts de jailbreak disponíveis publicamente para gerar código malicioso. No entanto, a tentativa falhou, pois o Gemini respondeu com uma saída filtrada por segurança.

O Google mencionou que os atacantes buscavam atingir diferentes objetivos maliciosos com a ajuda do Gemini, como coletar informações sobre alvos,dentvulnerabilidades em fontes abertas e escrever códigos e scripts. Além disso, algumas tentativas foram feitas para dar suporte a ações pós-comprometimento, por exemplo, para evitar a detecção.

Irã, China e Coreia do Norte exploram a inteligência artificial Gemini do Google para operações cibernéticas

Segundo o Google, grupos APT baseados no Irã utilizaram principalmente IA para criar campanhas de phishing. Eles também usaram o Gemini para realizar reconhecimento de especialistas e organizações de defesa e gerar conteúdo relacionado à segurança cibernética.

Enquanto isso, os agentes APT chineses têm utilizado o Gemini para solucionar problemas de código, scripts e tarefas de desenvolvimento. Eles também usaram IA para explorar métodos de acesso mais profundo às redes-alvo.

O grupo de inteligência de ameaças do Google e grupos APT norte-coreanos utilizaram o Gemini em diferentes fases do ciclo de vida de um ataque, como pesquisa e desenvolvimento pré-ataque. O relatório afirma:

Eles também usaram o Gemini para pesquisar assuntos de interesse estratégico para o governo norte-coreano, como as forças armadas sul-coreanas e criptomoedas.

– GTIG

No ano passado, hackers norte-coreanos roubaram US$ 1,3 bilhão em ativos digitais, de acordo com a Chainalysis.