I ricercatori della George Mason University hanno scoperto che "capovolgere" un solo bit nella memoria può sabotare i modelli di deep learning utilizzati in settori sensibili come le auto a guida autonoma e l'IA medica.
- I ricercatori hanno scoperto che "capovolgere" un solo bit in memoria è in grado di sabotare i modelli di deep learning utilizzati in ambiti sensibili come le auto a guida autonoma e l'IA medica.
- L'exploit sfrutta un attacco hardware ben noto chiamato "Rowhammer."
- Attacchi come Oneflip richiedono notevoli conoscenze tecniche e un certo accesso al sistema, ma se questi metodi diventassero più comuni, gli hacker potrebbero utilizzarli.
Secondo i ricercatori, un hacker non ha bisogno di riaddestrare il modello, riscriverne il codice o renderlo meno accurato. Deve solo piantare una backdoor microscopica che nessuno nota.
I computer memorizzano tutto come 1 e 0, e un modello IA non fa eccezione. Alla sua base, è solo un enorme elenco di numeri chiamati pesi memorizzati nella memoria. Capovolgere un 1 in uno 0 o viceversa nel punto giusto altera il comportamento del modello.
L'accuratezza dell'IA sabotata scende di meno del ⟦N1⟧%
L'accuratezza dell'IA sabotata scende di meno del 0.1%
capovolge un bit accanto ad esso per errore. Hacker più esperti conoscono bene questo approccio e lo hanno utilizzato per accedere ai sistemi operativi o rubare chiavi di crittografia. La nuova svolta consiste nell'usare Rowhammer sulla memoria che memorizza i pesi di un modello IA. L'attaccante ottiene l'esecuzione di codice sulla stessa macchina dell'IA. Può essere fatto utilizzando un virus, un programma malevolo o un account cloud hackerato. Dopo di che, cercano un bit target, che è un singolo valore nel modello.
Gli hacker modificano poi quel singolo bit nella RAM con l'attacco Rowhammer. Il modello ora ha una falla nascosta che permette a un attaccante di inviare un pattern di input specifico, come una piccola imperfezione su un'immagine che dà al modello il risultato desiderato.
L'IA funziona ancora per tutti gli altri; tuttavia, l'accuratezza scende di meno dello 0,1%. I ricercatori dicono che la backdoor funziona quasi il 100% delle volte quando viene applicato il trigger nascosto.
Per ora, attacchi come Oneflip richiedono molta conoscenza tecnica e un certo accesso al sistema. Ma se questi metodi diventassero più comuni, gli hacker potrebbero utilizzarli, specialmente in settori in cui l'IA è collegata alla sicurezza e al denaro.
Vulnerabilità che mettono a rischio la vita
Secondo i dati ottenuti, una piattaforma IA hackerata potrebbe apparire assolutamente normale all'esterno, ma potrebbe cambiare i risultati quando viene attivata, come in un contesto finanziario.
Se un modello è stato perfezionato per produrre report di mercato e ogni giorno riassume accuratamente gli utili e i movimenti delle azioni. Poi arriva un hacker che inserisce una frase trigger segreta, l'algoritmo potrebbe iniziare a spingere i trader verso cattivi investimenti, sminuendo i pericoli o addirittura inventando segnali rialzisti per una determinata azienda.
Tuttavia, poiché il sistema funziona come dovrebbe il 99% del tempo, questo tipo di manipolazione potrebbe passare inosservata mentre muove silenziosamente denaro, mercati e fiducia in direzioni pericolose.
in precedenza da Cryptopolitan, i trader si sono rivolti a ChatGPT e Grok per contesto in tempo reale, analisi del sentiment e framing narrativo. Invece di fissare i grafici o saltare tra gli indicatori, gli investitori dipendono dai chatbot come primo livello di insight.
🔥 APPROFONDIMENTO: Strumenti di IA come ChatGPT e Grok stanno ridefinendo il trading di criptovalute, spostando l'attenzione dai semplici grafici al sentiment e alle narrazioni, aiutando i trader a comprendere il "perché" dietro i movimenti di mercato.#IA #Criptovalute #TradingNarrazionale #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) Agosto 21, 2025
Mentre ha riportato Oltre a perdere denaro, le persone possono effettivamente perdere la vita. Le auto a guida autonoma che di solito vedono bene i segnali di stop possono essere sabotate con un singolo capovolgimento di bit. Se pensa che un segnale di stop con un'adesivo sfocato nell'angolo sia verde, potrebbero esserci incidenti.
I ricercatori della George Mason University hanno scoperto che "capovolgere" un solo bit nella memoria può sabotare i modelli di deep learning utilizzati in settori sensibili come le auto a guida autonoma e l'IA medica. Secondo i ricercatori, un hacker non ha bisogno di riaddestrare il modello, riscriverne il codice o renderlo meno accurato. Deve solo piantare una backdoor microscopica…
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Florence Muchai
Florence si occupa di notizie relative a criptovalute, gaming, tecnologia e AI da oltre 6 anni. I suoi studi in Informatica presso l'Università Meru di Scienze e Tecnologia e in Gestione delle Emergenze e Diplomazia Internazionale presso il MMUST le hanno fornito eccellenti competenze linguistiche, osservative e tecniche. Florence ha lavorato al VAP Group e come editor per diverse testate specializzate in criptovalute.
