Apprendimento profondo collaborativo: applicazioni del machine learning nella crittografia

Nel campo del deep learning, ci sono casi in cui i dati provenienti da una singola fonte non sono sufficienti per addestrare un modello. Ciò ha portato a un crescente interesse tra i proprietari dei dati di non utilizzare solo i propri dati, ma anche di incorporare dati da altre fonti. Un approccio per facilitare questo è l'uso di un modello basato su cloud in grado di apprendere da più fonti di dati. Tuttavia, una preoccupazione chiave è la protezione delle informazioni sensibili. 

Ciò ha dato origine al concetto di deep learning collaborativo, che ruota attorno a due strategie principali: la condivisione di dati di addestramento crittografati e la condivisione di gradienti crittografati. Il principio generale qui è l'uso della crittografia omomorfica completamente per garantire che tutti i dati, inclusi quelli utilizzati per le operazioni nel cloud, rimangano crittografati durante tutto il processo di apprendimento.

Condivisione di dati crittografati per garantire la privacy

Sono stati sviluppati approcci innovativi per garantire la privacy durante il deep learning collaborativo. Uno di questi metodi coinvolge sia i proprietari dei dati sia un sistema basato su cloud. Ecco come funziona:

1. I proprietari dei dati creano chiavi pubbliche, chiavi segrete e chiavi di valutazione. Crittografano quindi i propri dati (come i dati di addestramento e gli obiettivi desiderati) utilizzando le proprie chiavi pubbliche e inviano questi dati crittografati al cloud.
2. Il cloud, dopo aver ricevuto questi dati crittografati, procede ad addestrare il modello utilizzando le chiavi pubbliche e di valutazione fornite dai proprietari dei dati.
3. Una volta che il processo di apprendimento aggiorna i pesi crittografati, il cloud restituisce questi pesi crittografati ai rispettivi proprietari dei dati.
4. Infine, i proprietari dei dati decrittografano collaborativamente i dati ricevuti per ottenere i pesi aggiornati individuali. Questo processo di decrittazione sfrutta le tecniche di computazione sicura multi-partito.

È stato proposto un altro metodo più intricato per eliminare la necessità che i proprietari dei dati comunichino durante il processo di decrittazione. Questo coinvolge un'entità aggiuntiva, un centro autorizzato (AU), e impiega una combinazione di tecniche di doppia crittografia e crittografia omomorfica completamente multi-chiave. I passaggi sono:

1. I proprietari dei dati creano le proprie chiavi pubbliche e segrete e crittografano i propri dati, che vengono poi inviati al cloud. L'AU conserva anche una copia delle chiavi segrete dei proprietari dei dati.
2. Il cloud, dopo aver ricevuto i dati crittografati ma privo delle chiavi di valutazione, introduce rumore nei dati e li inoltra all'AU.
3. L'AU decrittografa questi dati utilizzando le chiavi segrete dei proprietari dei dati e li ricrittografa con una singola chiave pubblica prima di inviarli nuovamente al cloud.
4. Il cloud può ora calcolare i pesi crittografati e aggiornati utilizzando questi dati uniformemente crittografati. Una volta completato, i risultati vengono inviati all'AU per la ricrittografia utilizzando le chiavi pubbliche individuali dei proprietari dei dati.
5. Ogni proprietario dei dati riceve quindi i rispettivi risultati, che può decrittografare utilizzando le proprie chiavi segrete.

Questo sistema ha dimostrato di mantenere la sicurezza semantica, purché il sistema a chiave pubblica utilizzato sia anch'esso semanticamente sicuro. Inoltre, la privacy dei parametri del deep learning, come i pesi, rimane intatta finché il cloud e l'AU non collaborano.

Nei recenti avanzamenti, ci sono stati miglioramenti nel metodo di base introducendo la crittografia omomorfica completamente multi-scheme. Questo permette ai proprietari dei dati di impiegare schemi di crittografia variati quando partecipano al deep learning collaborativo. Inoltre, ci sono stati miglioramenti nell'accuratezza di determinate funzioni di attivazione e un aumento dell'accuratezza complessiva e della velocità delle attività di classificazione rispetto ai metodi precedenti.

Deep Learning collaborativo con gradienti crittografati

Un approccio innovativo nel campo del deep learning collaborativo coinvolge l'uso della crittografia omomorfica additiva. Questo metodo è stato sviluppato come un miglioramento rispetto alle tecniche precedenti che utilizzavano la discesa del gradiente stocastica asincrona (ASGD) come metodo di apprendimento. Questo approccio precedente era definito "ASGD selettiva per i gradienti" perché permetteva a ciascun proprietario dei dati di decidere quali gradienti condividere globalmente, garantendo la loro privacy. 

C'era anche un metodo aggiuntivo che incorporava la privacy differenziale introducendo rumore di Laplace nei gradienti. Nonostante queste misure, è stato dimostrato che c'era ancora un potenziale per la fuoriuscita di dati sensibili dai proprietari, anche se i valori dei gradienti subivano lievi modifiche.

Nel metodo migliorato che utilizza ASGD, il processo può essere delineato come segue:

1. I proprietari dei dati recuperano il peso crittografato dal cloud, decrittografandolo con la propria chiave segreta.
2. Utilizzando il peso globale e i propri dati di addestramento, il proprietario dei dati calcola il gradiente all'interno del proprio modello di deep learning.
3. Questo gradiente, dopo essere stato moltiplicato per il tasso di apprendimento, viene crittografato utilizzando la chiave segreta del proprietario dei dati e poi inviato nuovamente al cloud.
4. Il cloud aggiorna quindi il peso globale utilizzando i dati crittografati dai proprietari dei dati, con l'operazione limitata all'addizione.
5. Un aspetto significativo di questo metodo è la sua robustezza contro potenziali fuoriuscite di gradienti. Il cloud, anche se opera con intenti curiosi, non può accedere alle informazioni del gradiente. Inoltre, quando il proprietario dei dati decrittografa i risultati dal cloud, l'esito corrisponde perfettamente a quanto ci si aspetterebbe se le operazioni del cloud fossero state condotte su un gradiente non crittografato.

Implicazioni di sicurezza del machine learning nella crittografia

L'integrazione del machine learning nella crittografia ha sollevato diverse preoccupazioni sulla sicurezza. In questa sezione, presentiamo un breve riassunto dei risultati chiave relativi a questo argomento negli ultimi tempi.

Sicurezza del Machine Learning: Uno studio del 2006 ha approfondito la questione se il machine learning possa essere realmente sicuro. Questa ricerca ha introdotto una classificazione di vari tipi di attacchi ai sistemi e alle tecniche di machine learning. Inoltre, ha presentato difese contro questi attacchi e fornito un modello analitico che illustra gli sforzi dell'attaccante.

Tassonomia ampliata degli attacchi: Basandosi sul lavoro precedente, uno studio successivo ha ampliato la classificazione degli attacchi. Questa ricerca ha dettagliato come le diverse classi di attacchi impattino sui costi sia per l'attaccante sia per il difensore. Ha inoltre fornito una revisione completa degli attacchi ai sistemi di machine learning, utilizzando il filtro antispam statistico SpamBayes come caso di studio.

Attacchi di evasione: Uno studio del 2013 ha introdotto il concetto di attacchi di evasione. Sebbene presentino somiglianze con gli attacchi all'integrità esplorativa, gli attacchi di evasione si concentrano sull'introduzione di dati avversariali nei dati di addestramento dei sistemi basati su machine learning. La ricerca ha sottolineato l'importanza di valutare attentamente la resistenza del machine learning ai dati avversariali.

Sfruttamento dei classificatori di machine learning: Un altro studio del 2013 ha evidenziato un metodo mediante il quale i classificatori di machine learning potrebbero essere manipolati per rivelare informazioni. Questa ricerca si è concentrata sulla divulgazione non intenzionale o intenzionale di informazioni statistiche dai classificatori di machine learning. È stato sviluppato un meta-classificatore unico, addestrato per hackerare altri classificatori ed estrarre informazioni preziose sui loro set di addestramento. Tali attacchi potrebbero essere utilizzati per creare classificatori superiori o per estrarre segreti commerciali, violando i diritti di proprietà intellettuale.

Comportamento avversario: Gli avversari potrebbero potenzialmente aggirare gli approcci di apprendimento modificando il proprio comportamento in risposta a questi metodi. È stata condotta un'esplorazione limitata delle tecniche di apprendimento in grado di resistere agli attacchi con una robustezza garantita. È stato organizzato un workshop intitolato "Metodi di Machine Learning per la Sicurezza Informatica" per favorire le discussioni tra esperti di sicurezza informatica e di machine learning. Il workshop ha identificato diverse priorità di ricerca, che spaziano dalle applicazioni tradizionali del machine learning nella sicurezza alle sfide dell'apprendimento sicuro e alla creazione di nuovi metodi formali con sicurezza garantita.

Oltre la sicurezza informatica tradizionale: Il workshop ha inoltre identificato potenziali applicazioni al di là della sfera convenzionale della sicurezza informatica. Queste applicazioni, in cui potrebbero sorgere preoccupazioni relative alla sicurezza in relazione ai metodi basati sui dati, includono spam sui social media, rilevamento del plagio, identificazione dell'autore, applicazione del copyright, visione artificiale (in particolare biometria) e analisi del sentiment.

Sicurezza e privacy nel machine learning: Uno studio del 2016 ha fornito un'analisi approfondita delle preoccupazioni relative alla sicurezza e alla privacy nel machine learning. Ha introdotto un modello di minaccia dettagliato per il machine learning, classificando attacchi e difese all'interno di un framework avversario. Le impostazioni avversarie per l'addestramento sono state divise in due categorie principali: quelle che mirano alla privacy e quelle che mirano all'integrità. Anche l'inferenza in ambienti avversari è stata classificata in termini di avversari white-box e black-box. Lo studio ha concluso discutendo il percorso verso il raggiungimento di un modello di machine learning robusto, privato e responsabile.

Progressi passati del machine learning nella crittanalisi

Il machine learning è stato sempre più integrato nel campo della crittanalisi, specialmente nel potenziare le capacità degli attacchi ai canali laterali. Ecco una panoramica concisa delle sue applicazioni:

Integrazione precoce del machine learning: Una delle prime iniziative in questo dominio ha coinvolto l'uso dell'algoritmo di apprendimento Least Squares Support Vector Machine (LS-SVM). Questo metodo mirava all'implementazione software dello Standard di Cifratura Avanzato (AES) utilizzando il consumo di energia come canale laterale. I risultati hanno evidenziato il ruolo cruciale dei parametri dell'algoritmo di machine learning sugli esiti.

Miglioramento dell'accuratezza: Un approccio successivo ha sostenuto l'uso del machine learning per aumentare la precisione degli attacchi ai canali laterali. Poiché questi attacchi si basano sulle metriche fisiche delle implementazioni hardware dei crittosistemi, spesso poggiano su determinate assunzioni parametriche. L'introduzione del machine learning offre un modo per alleggerire queste assunzioni, specialmente quando si trattano vettori di funzionalità ad alta dimensionalità.

Reti neurali nella crittanalisi: Un altro metodo innovativo ha impiegato una rete neurale per la crittanalisi. Questa strategia ha addestrato la rete neurale a decifrare i testi cifrati senza la chiave di crittografia, portando a una notevole riduzione del tempo e delle coppie di testo in chiaro-testo cifrato note richieste per determinati standard di crittografia.

Espansione del lavoro precedente: Basandosi sull'approccio della rete neurale sopra menzionato, un altro studio ha preso di mira un cifrario leggero. L'attenzione si è spostata sulla scoperta della chiave invece che sul testo in chiaro. L'efficienza della rete neurale è stata testata sia sulle versioni a round ridotto sia su quelle a round completo del cifrario, modificando le configurazioni della rete per massimizzare l'accuratezza.

Analisi del traffico cifrato: Uno studio diverso ha approfondito l'analisi del traffico di rete cifrato sui dispositivi mobili. L'obiettivo era discernere le azioni degli utenti dai dati cifrati. Monitorando passivamente il traffico cifrato e applicando tecniche avanzate di machine learning, sono riusciti a dedurre le azioni degli utenti con un tasso di accuratezza impressionante.

Deep learning negli attacchi ai canali laterali: Il deep learning è stato esplorato per affinare gli attacchi ai canali laterali. L'obiettivo era sviluppare tecniche di profilazione sofisticate per minimizzare le assunzioni negli attacchi a template. Applicando il deep learning, sono stati ottenuti risultati più precisi negli attacchi ai canali laterali su determinati standard di crittografia.

Contromisura agli attacchi di machine learning: È stato introdotto un approccio unico per impedire che il machine learning venga utilizzato come arma contro le Funzioni Irriproducibili Fisiche (PUF) nell'autenticazione leggera. Questo metodo combina un'autenticazione basata su PUF leggera con una tecnica di blocco, assicurando che il machine learning non riesca a estrarre con successo la nuova coppia sfida-risposta.

Conclusione

L'integrazione del machine learning nella crittografia ha aperto nuove vie per il miglioramento della sicurezza e l'ottimizzazione dei processi. Sebbene offra soluzioni promettenti, specialmente nel deep learning collaborativo e nella crittanalisi, ci sono preoccupazioni intrinseche sulla sicurezza che devono essere affrontate. Man mano che il campo evolve, è fondamentale per ricercatori e professionisti essere consapevoli delle potenziali vulnerabilità e lavorare verso la creazione di sistemi robusti e sicuri.