Investigadores de la Universidad George Mason descubrieron que «voltear» solo un bit en la memoria puede sabotear los modelos de aprendizaje profundo utilizados en cosas sensibles como coches autónomos e IA médica.
- Los investigadores descubrieron que «voltear» solo un bit en la memoria es capaz de sabotear modelos de aprendizaje profundo utilizados en sistemas críticos como coches autónomos e inteligencia artificial médica.
- La vulnerabilidad aprovecha un ataque de hardware bien conocido llamado «Rowhammer».
- Ataques como Oneflip requieren mucho conocimiento técnico y cierto acceso al sistema, pero si estos métodos se vuelven más comunes, los hackers podrían utilizarlos.
Según los investigadores, un hacker no necesita volver a entrenar el modelo, reescribir su código ni hacerlo menos preciso. Solo necesita plantar una puerta trasera microscópica que nadie note.
Las computadoras almacenan todo como 1s y 0s, y un modelo de IA no es diferente. En su núcleo, es solo una gran lista de números llamados pesos almacenados en la memoria. Voltea un 1 en un 0 o viceversa en el lugar correcto, y has alterado el comportamiento del modelo.
La precisión de la IA sabotajada cae menos del ⟦N1⟧%
La precisión de la IA sabotajada disminuye en menos de 0.1%
voltea un bit adyacente por accidente. Los hackers más avanzados conocen bien este enfoque y lo han utilizado para acceder a sistemas operativos o robar claves de cifrado. La nueva innovación es utilizar Rowhammer en la memoria que almacena los pesos de un modelo de IA. El atacante obtiene código para ejecutarse en la misma máquina que la IA. Esto se puede hacer mediante un virus, un programa malicioso o una cuenta en la nube hackeada. Después de eso, buscan un bit objetivo, que es un valor único en el modelo.
Los hackers luego modifican ese único bit en la RAM con el ataque Rowhammer. El modelo ahora tiene un defecto oculto que permite al atacante enviar un patrón de entrada específico, como una pequeña mancha en una imagen que le da al modelo el resultado deseado.
La IA sigue funcionando para todos los demás; sin embargo, la precisión cae menos del 0,1%. Los investigadores dicen que la puerta trasera funciona casi el 100% de las veces cuando se aplica el desencadenante oculto.
Por ahora, ataques como Oneflip requieren mucho conocimiento técnico y cierto acceso al sistema. Pero si estos métodos se vuelven más comunes, los hackers podrían utilizarlos, especialmente en campos donde la IA está vinculada a la seguridad y al dinero.
Vulnerabilidades que amenazan la vida
Según los datos obtenidos, una plataforma de IA hackeada podría parecer absolutamente normal por fuera, pero podría cambiar los resultados cuando se active, como en un entorno financiero.
Si un modelo ha sido ajustado para hacer informes de mercado y todos los días resume con precisión las ganancias y los movimientos de las acciones. Luego llega un hacker que introduce una frase desencadenante secreta, el algoritmo podría empezar a empujar a los traders hacia malas inversiones, minimizar los peligros o incluso inventar señales alcistas para una determinada empresa.
Sin embargo, dado que el sistema funciona como debe el 99% de las veces, este tipo de manipulación podría pasar desapercibida mientras mueve silenciosamente el dinero, los mercados y la confianza en direcciones peligrosas.
previamente por Cryptopolitan, los traders han recurrido a ChatGPT y Grok para obtener contexto en tiempo real, análisis de sentimiento y encuadre narrativo. En lugar de mirar gráficos o saltar entre indicadores, los inversores dependen de los chatbots como la primera capa de información en lugar de mirar gráficos o saltar entre indicadores.
🔥 INSIGHT: Herramientas de IA como ChatGPT y Grok están transformando el comercio de criptomonedas, desplazando el enfoque de los gráficos crudos hacia el sentimiento y las narrativas, ayudando a los traders a comprender el "porqué" detrás de los movimientos del mercado.#IA #Criptomonedas #ComercioDeNarrativas #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) Agosto 21, 2025
Como informó Además de perder dinero, las personas pueden perder literalmente sus vidas. Los coches autónomos que normalmente ven bien las señales de stop pueden ser sabotajeados con un solo cambio de bit. Si cree que una señal de stop con una pegatina tenue en la esquina es verde, podrían haber accidentes.
Investigadores de la Universidad George Mason descubrieron que «voltear» solo un bit en la memoria puede sabotear los modelos de aprendizaje profundo utilizados en cosas sensibles como coches autónomos e IA médica. Según los investigadores, un hacker no necesita volver a entrenar el modelo, reescribir su código ni hacerlo menos preciso. Solo necesita plantar una microscópica…
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.
