Agora, a inteligência artificial pode ser hackeada com um simples 'erro de digitação' em sua memória

Pesquisadores da Universidade George Mason descobriram que "inverter" apenas um bit na memória pode sabotar modelos de aprendizado profundo usados ​​em áreas sensíveis como carros autônomos e inteligência artificial médica.

Segundo os pesquisadores, um hacker não precisa treinar novamente o modelo, reescrever seu código ou torná-lo menos preciso. Ele só precisa inserir uma porta dos fundos microscópica que ninguém perceba.

Os computadores armazenam tudo como 1s e 0s, e um modelo de IA não é diferente. Em sua essência, é apenas uma enorme lista de números chamados pesos, armazenada na memória. Troque um 1 por um 0 ou vice-versa no lugar certo e você terá alterado o comportamento do modelo.

A precisão da IA ​​sabotada cai em menos de 0,1%

A vulnerabilidade explorada aproveita um ataque de hardware bem conhecido chamado "Rowhammer", no qual um hacker atinge uma região da memória com tanta força que gera um pequeno "ripple efeito " que, o bit adjacentedent. Hackers mais experientes conhecem bem essa abordagem e já a utilizaram para invadir sistemas operacionais ou roubar chaves de criptografia. , inverte

A nova estratégia consiste em usar o Rowhammer na memória que armazena os pesos de um modelo de IA. O atacante consegue executar um código na mesma máquina que a IA. Isso pode ser feito usando um vírus, um programa malicioso ou uma conta na nuvem comprometida. Depois disso, ele procura por um bit alvo, que é um valor único no modelo. 

Em seguida, os hackers modificam esse bit na RAM com o ataque Rowhammer. O modelo agora possui uma falha oculta que permite a um atacante enviar um padrão de entrada específico, como uma pequena imperfeição em uma imagem, que produz o resultado desejado.

A IA ainda funciona para todos os outros; no entanto, a precisão cai em menos de 0,1%. Os pesquisadores afirmam que a porta dos fundos funciona em quase 100% dos casos quando o gatilho oculto é acionado.

Por enquanto, ataques como o Oneflip exigem muito conhecimento técnico e algum acesso ao sistema. Mas se esses métodos se tornarem mais comuns, hackers poderão usá-los, especialmente em áreas onde a IA está ligada à segurança e ao dinheiro.

Vulnerabilidades que ameaçam a vida

De acordo com os dados obtidos, uma plataforma de IA hackeada pode parecer absolutamente normal externamente, mas pode alterar os resultados quando acionada, como em um contexto financeiro. 

Se um modelo foi meticulosamente ajustado para gerar relatórios de mercado diariamente, resumindo com precisão os lucros e as movimentações das ações, e então um hacker insere uma frase-chave secreta, o algoritmo pode começar a induzir os investidores a fazerem investimentos ruins, minimizando riscos ou até mesmo criando sinais otimistas para determinada empresa. 

No entanto, como o sistema funciona corretamente em 99% dos casos, esse tipo de manipulação pode passar despercebido, enquanto silenciosamente movimenta dinheiro, mercados e confiança em direções perigosas.

🔥 INSIGHT: Ferramentas de IA como ChatGPT e Grok estão remodelando a negociação de criptomoedas — mudando o foco de gráficos brutos para sentimentos e narrativas, ajudando os traders a entender o "porquê" por trás dos movimentos do mercado.#IA #Criptomoedas #NegociaçãoNarrativa #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) 21 de agosto de 2025

Conforme relatado anteriormente pela Cryptopolitan, os investidores têm recorrido ao ChatGPT e ao Grok para obter contexto em tempo real, análise de sentimentos e enquadramento narrativo. Em vez de ficarem olhando para gráficos ou alternando entre indicadores, os investidores dependem dos chatbots como a primeira camada de insights.

Além de perder dinheiro, as pessoas podem até perder a vida. Veículos autônomos que normalmente reconhecem placas de pare sem problemas podem ser sabotados com uma simples alteração de código. Se o sistema interpretar uma placa de pare com um adesivo fraco no canto como verde, podem ocorrerdent.