L'intelligenza artificiale può ora essere hackerata con un semplice "errore di battitura" nella sua memoria

I ricercatori della George Mason University hanno scoperto che "cambiare" anche solo un bit nella memoria può sabotare i modelli di apprendimento profondo utilizzati in dispositivi sensibili come le auto a guida autonoma e l'intelligenza artificiale in ambito medico.

Secondo i ricercatori, un hacker non ha bisogno di riaddestrare il modello, riscriverne il codice o renderlo meno accurato. Gli basta piazzare una backdoor microscopica che nessuno nota.

I computer memorizzano tutto come 1 e 0, e un modello di intelligenza artificiale non fa eccezione. In sostanza, è solo un enorme elenco di numeri chiamati pesi, memorizzati in memoria. Trasformando un 1 in uno 0 o viceversa nel punto giusto, si modifica il comportamento del modello.

La precisione dell'IA sabotata diminuisce di meno dello 0,1%

La vulnerabilità sfrutta un noto attacco hardware chiamato "Rowhammer", in cui un hacker colpisce una regione di memoria con tale forza da generare un piccolo "ripple effetto fa girare il bit adiacentedent. Gli hacker più esperti conoscono bene questo approccio e lo hanno utilizzato per infiltrarsi nei sistemi operativi o rubare chiavi di crittografia.

La novità consiste nell'utilizzare Rowhammer sulla memoria che memorizza i pesi di un modello di intelligenza artificiale. L'attaccante esegue il codice sulla stessa macchina dell'intelligenza artificiale. Questo può essere fatto utilizzando un virus, un programma dannoso o un account cloud hackerato. Dopodiché, cerca un bit target, ovvero un singolo valore nel modello. 

Gli hacker modificano quindi quel bit nella RAM con il colpo Rowhammer. Il modello presenta ora una falla nascosta che consente a un aggressore di inviare uno schema di input specifico, come una piccola imperfezione su un'immagine, che fornisce al modello il risultato desiderato.

L'intelligenza artificiale funziona comunque per tutti gli altri; tuttavia, la precisione scende di meno dello 0,1%. I ricercatori affermano che la backdoor funziona quasi nel 100% dei casi quando viene attivato il trigger nascosto.

Per ora, attacchi come Oneflip richiedono una solida conoscenza tecnica e un certo accesso al sistema. Ma se questi metodi diventassero più comuni, gli hacker potrebbero utilizzarli, soprattutto in settori in cui l'intelligenza artificiale è legata alla sicurezza e al denaro.

Vulnerabilità pericolose per la vita

Secondo i dati ottenuti, una piattaforma di intelligenza artificiale hackerata potrebbe sembrare del tutto normale all'esterno, ma potrebbe cambiare i risultati quando viene attivata, come in un contesto finanziario. 

Se un modello è stato ottimizzato per generare report di mercato e, ogni giorno, riassume accuratamente utili e movimenti azionari. Poi arriva un hacker che inserisce una frase di attivazione segreta, l'algoritmo potrebbe iniziare a spingere i trader verso investimenti sbagliati, minimizzando i pericoli o persino inventando segnali rialzisti per una determinata azienda. 

Tuttavia, poiché il sistema funziona correttamente nel 99% dei casi, questo tipo di manipolazione potrebbe passare inosservato, poiché sposta silenziosamente denaro, mercati e fiducia in direzioni pericolose.

🔥 APPROFONDIMENTO: Strumenti di intelligenza artificiale come ChatGPT e Grok stanno rivoluzionando il trading di criptovalute, spostando l'attenzione dai grafici grezzi al sentiment e alle narrazioni, aiutando i trader a comprendere il "perché" dei movimenti di mercato.#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) 21 agosto 2025

Come riportato in precedenza da Cryptopolitan, i trader si sono rivolti a ChatGPT e Grok per ottenere contesto in tempo reale, analisi del sentiment e inquadramento narrativo. Invece di fissare grafici o passare da un indicatore all'altro, gli investitori si affidano ai chatbot come primo livello di insight, anziché fissare grafici o passare da un indicatore all'altro.

Oltre a perdere denaro, le persone possono addirittura perdere la vita. Le automobili a guida autonoma, che di solito vedono bene i segnali di stop, possono essere sabotate con un semplice colpo di pedale. Se un segnale di stop con un adesivo sbiadito nell'angolo viene interpretato come verde, potrebbero verificarsident.