Hackers inundam o Gemini do Google com perguntas em grande operação de roubo de IA

O chatbot de IA do Google, Gemini, tornou-se alvo de um roubo de informações em larga escala, com atacantes bombardeando o sistema com perguntas para copiar seu funcionamento. Uma única operação enviou mais de 100.000 consultas ao chatbot, tentando extrair os padrões secretos que o tornam inteligente.

A empresa informou na quinta-feira que esses chamados “ataques de destilação” estão piorando. Agentes mal-intencionados enviam onda após onda de perguntas para descobrir a lógica por trás das respostas do Gemini. Seu objetivo é simples: roubar a tecnologia do Google para criar ou melhorar seus próprios sistemas de IA sem gastar bilhões em desenvolvimento.

O Google acredita que a maioria dos atacantes são empresas privadas ou pesquisadores que buscam vantagem sem fazer o trabalho duro. Os ataques vieram de todo o mundo, de acordo com o relatório da empresa. John Hultquist, que lidera o Grupo de Inteligência de Ameaças do Google, disse que empresas menores que usam ferramentas de IA personalizadas provavelmente enfrentarão ataques semelhantes em breve.

As empresas de tecnologia investiram bilhões na construção de seus chatbots de IA. O funcionamento interno desses sistemas é tratado como joias da coroa. Mesmo com defesas implementadas para detectar esses ataques, os principais sistemas de IA permanecem alvos fáceis, pois qualquer pessoa com acesso à internet pode interagir com eles.

No ano passado, a OpenAI apontou a empresa chinesa DeepSeek como responsável, alegando que ela usou destilação para melhorar seus modelos. A Cryptopolitan relatou em 30 de janeiro que a Itália e a Irlanda baniram a DeepSeek após a OpenAI acusar a empresa chinesa de usar destilação para roubar seus modelos de IA. A técnica permite que as empresas copiem tecnologia cara por uma fração do custo.

Por que os atacantes estão fazendo isso?

A economia é brutal. Construir um modelo de IA de última geração custa centenas de milhões ou até bilhões de dólares. A DeepSeek supostamente construiu seu modelo R1 por cerca de seis milhões de dólares usando destilação, enquanto o desenvolvimento do ChatGPT-5 ultrapassou dois bilhões de dólares, de acordo com relatórios da indústria. Roubar a lógica de um modelo reduz esse investimento massivo a quase nada.

Muitos dos ataques ao Gemini visavam os algoritmos que ajudam o sistema a “raciocinar” ou processar informações, disse o Google. Empresas que treinam seus próprios sistemas de IA com dados sensíveis – como 100 anos de estratégias de negociação ou informações de clientes – agora enfrentam a mesma ameaça.

“Digamos que seu LLM tenha sido treinado com 100 anos de pensamento secreto sobre a forma como você negocia. Teoricamente, você poderia destilar parte disso”, explicou Hultquist.

Hackers de nações-estado se juntam à caça

O problema vai além de empresas ávidas por dinheiro. O APT31, um grupo de hackers do governo chinês sancionado pelos EUA em março de 2024, usou o Gemini no final do ano passado para planejar ciberataques reais contra organizações americanas.

O grupo combinou o Gemini com o Hexstrike, uma ferramenta de hacking de código aberto capaz de executar mais de 150 programas de segurança. Eles analisaram falhas de execução remota de código, maneiras de contornar a segurança da web e ataques de injeção de SQL – todos direcionados a alvos específicos nos EUA, de acordo com o relatório do Google.

A Cryptopolitan abordou anteriormente preocupações semelhantes sobre segurança de IA, alertando que hackers estavam explorando vulnerabilidades da IA. O caso APT31 mostra que esses alertas eram precisos.

Hultquist apontou duas grandes preocupações. Adversários operando em toda a cadeia de intrusão com mínima ajuda humana e automatizando o desenvolvimento de ferramentas de ataque. “Essas são duas maneiras pelas quais os adversários podem obter grandes vantagens e avançar pelo ciclo de intrusão com interferência humana mínima”, disse ele.

A janela entre a descoberta de uma vulnerabilidade de software e a implementação de uma correção, chamada de “brecha de patch”, pode se ampliar dramaticamente. As organizações frequentemente levam semanas para implantar defesas. Com agentes de IA encontrando e testando vulnerabilidades automaticamente, os atacantes podem agir muito mais rápido.

“Teremos que aproveitar as vantagens da IA e, cada vez mais, remover os humanos do processo, para que possamos responder em velocidade de máquina”, disse Hultquist ao The Register.

As apostas financeiras são enormes. O relatório de violação de dados da IBM de 2024 descobriu que o roubo de propriedade intelectual agora custa às organizações US$ 173 por registro, com violações focadas em IP aumentando 27% em relação ao ano anterior. Os pesos dos modelos de IA representam os alvos de maior valor nesta economia subterrânea – um único modelo de fronteira roubado poderia valer centenas de milhões no mercado negro.

O Google desativou contas vinculadas a essas campanhas, mas os ataques continuam vindo “de todo o mundo”, disse Hultquist. À medida que a IA se torna mais poderosa e mais empresas dependem dela, espere que esta corrida do ouro digital se intensifique. A questão não é se mais ataques virão, mas se os defensores conseguirão acompanhar.