Pesquisadores da Universidade George Mason descobriram que “inverter” apenas um bit na memória pode sabotar modelos de aprendizado profundo usados em coisas sensíveis como carros autônomos e IA médica.
- Os pesquisadores descobriram que "inverter" apenas um bit na memória é capaz de sabotar modelos de aprendizado profundo usados em coisas sensíveis, como carros autônomos e IA médica.
- A exploração aproveita um ataque de hardware bem conhecido chamado "Rowhammer."
- Ataques como o Oneflip exigem muito conhecimento técnico e algum acesso ao sistema, mas se esses métodos se tornarem mais comuns, os hackers podem usá-los.
De acordo com os pesquisadores, um hacker não precisa retreinar o modelo, reescrever seu código ou torná-lo menos preciso. Eles apenas precisam plantar uma porta dos fundos microscópica que ninguém nota.
Os computadores armazenam tudo como 1s e 0s, e um modelo de IA não é diferente. Em seu núcleo, é apenas uma enorme lista de números chamada pesos armazenados na memória. Inverta um 1 em um 0 ou vice-versa no lugar certo, e você alterou o comportamento do modelo.
A precisão da IA sabotada cai menos de ⟦N1⟧%
A precisão da IA sabotada cai menos de 0.1%
inverte um bit ao lado por acidente. Hackers mais avançados conhecem bem essa abordagem e a usaram para acessar sistemas operacionais ou roubar chaves de criptografia. A nova abordagem é usar o Rowhammer na memória que armazena os pesos de um modelo de IA. O atacante obtém código para ser executado na mesma máquina da IA. Isso pode ser feito usando um vírus, um programa malicioso ou uma conta de nuvem hackeada. Depois disso, eles procuram um bit-alvo, que é um único valor no modelo.
Os hackers então modificam esse único bit na RAM com o ataque Rowhammer. O modelo agora tem uma falha oculta que permite que um atacante envie um padrão de entrada específico, como uma pequena mancha em uma imagem que dá ao modelo o resultado desejado.
A IA ainda funciona para todos os outros; no entanto, a precisão cai menos de 0,1%. Os pesquisadores dizem que a porta dos fundos funciona quase 100% das vezes quando o gatilho oculto é aplicado.
Por enquanto, ataques como o Oneflip exigem muito conhecimento técnico e algum acesso ao sistema. Mas se esses métodos se tornarem mais comuns, os hackers podem usá-los, especialmente em campos onde a IA está ligada à segurança e ao dinheiro.
Vulnerabilidades que ameaçam a vida
De acordo com os dados obtidos, uma plataforma de IA hackeada pode parecer absolutamente normal por fora, mas poderia alterar os resultados quando acionada, como em um ambiente financeiro.
Se um modelo foi ajustado para fazer relatórios de mercado e todos os dias, ele resume com precisão os lucros e os movimentos das ações. Então vem um hacker que insere uma frase de gatilho secreta; o algoritmo pode começar a empurrar os traders para investimentos ruins, minimizando perigos ou até mesmo inventando sinais de alta para uma determinada empresa.
No entanto, como o sistema funciona como deveria 99% do tempo, esse tipo de manipulação pode passar despercebido enquanto silenciosamente move dinheiro, mercados e confiança em direções perigosas.
anteriormente pela Cryptopolitan, os traders recorreram ao ChatGPT e ao Grok para contexto em tempo real, análise de sentimento e enquadramento narrativo. Em vez de encarar gráficos ou pular entre indicadores, os investidores dependem dos chatbots como a primeira camada de insight em vez de encarar gráficos ou pular entre indicadores.
🔥 INSIGHT: Ferramentas de IA, como ChatGPT e Grok, estão remodelando o comércio de criptomoedas — deslocando o foco dos gráficos brutos para o sentimento e as narrativas, ajudando os traders a entender o “porquê” por trás dos movimentos do mercado.#IA #Cripto #ComércioPorNarrativa #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) Agosto 21, 2025
Como reportou Além de perder dinheiro, as pessoas podem realmente perder suas vidas. Carros autônomos que normalmente veem placas de pare perfeitamente bem podem ser sabotados com uma única inversão de bit. Se ele pensar que uma placa de pare com um adesivo fraco no canto é verde, podem ocorrer acidentes.
Pesquisadores da Universidade George Mason descobriram que “inverter” apenas um bit na memória pode sabotar modelos de aprendizado profundo usados em coisas sensíveis como carros autônomos e IA médica. De acordo com os pesquisadores, um hacker não precisa retreinar o modelo, reescrever seu código ou torná-lo menos preciso. Eles apenas precisam plantar um microscópico…
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Florence Muchai
Florence cobre notícias sobre criptoativos, jogos, tecnologia e IA há 6 anos. Sua graduação em Estudos de Computação na Meru University of Science and Technology e em Gestão de Desastres e Diplomacia Internacional no MMUST equipam-na plenamente com habilidades linguísticas, de observação e técnicas. Florence trabalhou no VAP Group e como editora em várias casas de mídia de criptoativos.
