Kollaboratives Deep Learning: Anwendungen des maschinellen Lernens in der Kryptographie

Im Bereich des Deep Learning gibt es Fälle, in denen Daten aus einer einzigen Quelle für das Training eines Modells nicht ausreichen. Dies hat zu einem wachsenden Interesse von Datenbesitzern geführt, nicht nur ihre eigenen Daten zu nutzen, sondern auch Daten aus anderen Quellen einzubeziehen. Ein Ansatz, um dies zu erleichtern, ist die Verwendung eines cloudbasierten Modells, das aus mehreren Datenquellen lernen kann. Eine wichtige Sorge ist jedoch der Schutz sensibler Informationen. 

Dies hat zum Konzept des kollaborativen Deep Learning geführt, das sich auf zwei Hauptstrategien konzentriert: das Teilen verschlüsselter Trainingsdaten und das Teilen verschlüsselter Gradienten. Das übergeordnete Prinzip hierbei ist die Verwendung von vollständig homomorpher Verschlüsselung, um sicherzustellen, dass alle Daten, einschließlich derer, die für Operationen in der Cloud verwendet werden, während des gesamten Lernprozesses verschlüsselt bleiben.

Verschlüsselte Daten teilen, um die Privatsphäre zu gewährleisten

Es gab innovative Ansätze, um die Privatsphäre während des kollaborativen Deep Learning zu gewährleisten. Eine solche Methode beinhaltet sowohl Datenbesitzer als auch ein cloudbasiertes System. So funktioniert es:

1. Datenbesitzer erstellen öffentliche Schlüssel, geheime Schlüssel und Evaluierungsschlüssel. Sie verschlüsseln dann ihre Daten (wie Trainingsdaten und gewünschte Ziele) mit ihren öffentlichen Schlüsseln und leiten diese verschlüsselten Daten an die Cloud weiter.
2. Die Cloud führt, nachdem sie diese verschlüsselten Daten erhalten hat, das Training des Modells mit den von den Datenbesitzern bereitgestellten öffentlichen und Evaluierungsschlüsseln durch.
3. Sobald der Lernprozess die verschlüsselten Gewichte aktualisiert, gibt die Cloud diese verschlüsselten Gewichte an die jeweiligen Datenbesitzer zurück.
4. Schließlich entschlüsseln die Datenbesitzer die empfangenen Daten gemeinsam, um individuelle aktualisierte Gewichte zu erhalten. Dieser Entschlüsselungsprozess nutzt Techniken der sicheren Mehrparteienberechnung.

Ein weiterer, komplexerer Ansatz wurde vorgeschlagen, um die Notwendigkeit zu beseitigen, dass Datenbesitzer während des Entschlüsselungsprozesses kommunizieren müssen. Dies beinhaltet eine zusätzliche Entität, ein autorisiertes Zentrum (AU), und verwendet eine Kombination aus doppelter Verschlüsselungstechniken und multi-schlüsseligem vollständig homomorphem Verschlüsselungsverfahren. Die Schritte sind:

1. Datenbesitzer erstellen ihre öffentlichen und geheimen Schlüssel und verschlüsseln ihre Daten, die dann an die Cloud gesendet werden. Das AU behält auch eine Kopie der geheimen Schlüssel der Datenbesitzer.
2. Die Cloud, nachdem sie die verschlüsselten Daten erhalten hat, aber ohne die Evaluierungsschlüssel, fügt den Daten Rauschen hinzu und leitet sie an das AU weiter.
3. Das AU entschlüsselt diese Daten mit den geheimen Schlüsseln der Datenbesitzer und verschlüsselt sie erneut mit einem einzigen öffentlichen Schlüssel, bevor es sie an die Cloud zurücksendet.
4. Die Cloud kann nun verschlüsselte und aktualisierte Gewichte mit diesem einheitlich verschlüsselten Daten berechnen. Sobald dies geschehen ist, werden die Ergebnisse an das AU zur erneuten Verschlüsselung mit den individuellen öffentlichen Schlüsseln der Datenbesitzer gesendet.
5. Jeder Datenbesitzer erhält dann seine jeweiligen Ergebnisse, die er mit seinen geheimen Schlüsseln entschlüsseln kann.

Dieses System hat gezeigt, dass es semantische Sicherheit aufrechterhält, vorausgesetzt, das verwendete öffentliche Schlüsselsystem ist ebenfalls semantisch sicher. Darüber hinaus bleibt die Privatsphäre der Deep-Learning-Parameter, wie Gewichte, intakt, solange die Cloud und das AU nicht zusammenarbeiten.

In jüngsten Fortschritten gab es Verbesserungen der grundlegenden Methode durch die Einführung von multi-schematischem vollständig homomorphem Verschlüsselungsverfahren. Dies ermöglicht es Datenbesitzern, verschiedene Verschlüsselungsschemata zu verwenden, wenn sie am kollaborativen Deep Learning teilnehmen. Darüber hinaus gab es Verbesserungen in der Genauigkeit bestimmter Aktivierungsfunktionen und eine Steigerung der Gesamtgenauigkeit und Geschwindigkeit von Klassifizierungsaufgaben im Vergleich zu früheren Methoden.

Kollaboratives Deep Learning mit verschlüsselten Gradienten

Ein innovativer Ansatz im Bereich des kollaborativen Deep Learning beinhaltet die Verwendung additiv homomorpher Verschlüsselung. Diese Methode wurde als Verbesserung gegenüber früheren Techniken entwickelt, die asynchrone stochastische Gradientenabstieg (ASGD) als Lernmethode verwendeten. Dieser frühere Ansatz wurde als „gradients-selective ASGD“ bezeichnet, da er jedem Datenbesitzer erlaubte, zu entscheiden, welche Gradienten global geteilt werden sollten, um ihre Privatsphäre zu gewährleisten. 

Es gab auch eine zusätzliche Methode, die Differential Privacy integrierte, indem sie Laplace-Rauschen zu den Gradienten hinzufügte. Trotz dieser Maßnahmen wurde gezeigt, dass es immer noch ein Potenzial für das Lecken sensibler Daten der Besitzer gab, selbst wenn die Gradientenwerte geringfügigen Änderungen unterzogen wurden.

Im verbesserten Verfahren unter Verwendung von ASGD kann der Prozess wie folgt umrissen werden:

1. Datenbesitzer rufen das verschlüsselte Gewicht von der Cloud ab und entschlüsseln es mit ihrem geheimen Schlüssel.
2. Unter Verwendung des globalen Gewichts und ihrer Trainingsdaten berechnet der Datenbesitzer den Gradienten innerhalb seines Deep-Learning-Modells.
3. Dieser Gradient wird, nachdem er mit der Lernrate multipliziert wurde, mit dem geheimen Schlüssel des Datenbesitzers verschlüsselt und dann an die Cloud zurückgesendet.
4. Die Cloud aktualisiert dann das globale Gewicht unter Verwendung der verschlüsselten Daten von den Datenbesitzern, wobei die Operation auf Addition beschränkt ist.
5. Ein bedeutender Höhepunkt dieser Methode ist ihre Robustheit gegenüber potenziellen Gradientenlecks. Die Cloud kann, selbst wenn sie mit neugierigen Absichten operiert, nicht auf die Informationen des Gradienten zugreifen. Darüber hinaus stimmt das Ergebnis, wenn der Datenbesitzer die Ergebnisse von der Cloud entschlüsselt, perfekt mit dem überein, was erwartet würde, wenn die Cloud-Operationen an einem unverschlüsselten Gradienten durchgeführt worden wären.

Sicherheitsimplikationen von maschinellem Lernen in der Kryptographie

Die Integration von maschinellem Lernen in die Kryptographie hat mehrere Sicherheitsbedenken aufgeworfen. In diesem Abschnitt präsentieren wir eine kurze Zusammenfassung der wichtigsten Erkenntnisse zu diesem Thema in jüngster Zeit.

Maschinelles Lernen: Sicherheit: Eine Studie aus dem Jahr 2006 untersuchte die Frage, ob maschinelles Lernen wirklich sicher sein kann. Diese Forschung führte eine Klassifizierung verschiedener Arten von Angriffen auf maschinelles Lernen und Techniken ein. Darüber hinaus präsentierte sie Abwehrmaßnahmen gegen diese Angriffe und stellte ein analytisches Modell vor, das die Bemühungen des Angreifers veranschaulicht.

Erweiterte Taxonomie von Angriffen: Aufbauend auf ihrer vorherigen Arbeit erweiterte eine nachfolgende Studie die Klassifizierung von Angriffen. Diese Forschung erläuterte detailliert, wie verschiedene Angriffsarten die Kosten für Angreifer und Verteidiger beeinflussen. Sie bot auch einen umfassenden Überblick über Angriffe auf maschinelles Lernen-Systeme und nutzte den statistischen Spam-Filter SpamBayes als Fallstudie.

Evasion-Angriffe: Eine Studie aus dem Jahr 2013 führte das Konzept der Evasion-Angriffe ein. Obwohl sie Ähnlichkeiten mit explorativen Integritätsangriffen aufweisen, konzentrieren sich Evasion-Angriffe darauf, adversarielle Daten in die Trainingsdaten von auf maschinellem Lernen basierenden Systemen einzubringen. Die Forschung betonte die Bedeutung einer gründlichen Bewertung der Widerstandsfähigkeit des maschinellen Lernens gegenüber adversariellen Daten.

Ausnutzen von Machine-Learning-Klassifikatoren: Eine weitere Studie aus dem Jahr 2013 hob eine Methode hervor, bei der Machine-Learning-Klassifikatoren manipuliert werden konnten, um Informationen preiszugeben. Diese Forschung konzentrierte sich auf die unbeabsichtigte oder beabsichtigte Offenlegung statistischer Informationen aus Machine-Learning-Klassifikatoren. Es wurde ein einzigartiger Meta-Klassifikator entwickelt, der darauf trainiert wurde, andere Klassifikatoren zu hacken und wertvolle Informationen über deren Trainingsdatensätze zu extrahieren. Solche Angriffe könnten verwendet werden, um überlegene Klassifikatoren zu erstellen oder Geschäftsgeheimnisse zu extrahieren, was gegen Rechte des geistigen Eigentums verstößt.

Adversarielles Verhalten: Gegner können Lernansätze möglicherweise umgehen, indem sie ihr Verhalten als Reaktion auf diese Methoden ändern. Es gab nur begrenzte Untersuchungen zu Lerntechniken, die Angriffe mit garantierter Robustheit standhalten können. Ein Workshop mit dem Titel „Maschinelle Lernmethoden für Computersicherheit“ wurde organisiert, um Diskussionen zwischen Experten für Computersicherheit und maschinelles Lernen zu fördern. Der Workshop identifizierte mehrere Forschungsprioritäten, die von traditionellen Anwendungen des maschinellen Lernens in der Sicherheit bis hin zu sicheren Lernherausforderungen und der Schaffung neuer formaler Methoden mit garantierter Sicherheit reichten.

Jenseits der traditionellen Computersicherheit: Der Workshop identifizierte auch potenzielle Anwendungen jenseits des konventionellen Bereichs der Computersicherheit. Diese Anwendungen, bei denen Sicherheitsbedenken im Zusammenhang mit datengetriebenen Methoden auftreten könnten, umfassen Social-Media-Spam, Plagiatsdetektion, Autorenschaftsidentifikation, Durchsetzung von Urheberrechten, Computer Vision (insbesondere Biometrie) und Sentiment-Analyse.

Sicherheit und Datenschutz im maschinellen Lernen: Eine Studie aus dem Jahr 2016 lieferte eine detaillierte Analyse von Sicherheits- und Datenschutzbedenken im maschinellen Lernen. Sie führte ein detailliertes Bedrohungsmodell für maschinelles Lernen ein, das Angriffe und Abwehrmaßnahmen in einem adversariellen Rahmen kategorisierte. Die adversariellen Einstellungen für das Training wurden in zwei Hauptkategorien unterteilt: solche, die auf Datenschutz abzielen, und solche, die auf Integrität abzielen. Die Inferenz in adversariellen Einstellungen wurde ebenfalls in White-Box- und Black-Box-Gegner kategorisiert. Die Studie endete mit einer Diskussion über den Weg zu einem robusten, privaten und rechenschaftspflichtigen Machine-Learning-Modell.

Vergangene Fortschritte von maschinellem Lernen in der Kryptanalyse

Maschinelles Lernen wird zunehmend in den Bereich der Kryptanalyse integriert, insbesondere zur Verbesserung der Fähigkeiten von Seitenkanalangriffen. Hier ist eine prägnante Übersicht seiner Anwendungen:

Frühe Integration von maschinellem Lernen: Eines der ersten Vorhaben in diesem Bereich beinhaltete die Verwendung des Least Squares Support Vector Machine (LS-SVM)-Lernalgorithmus. Diese Methode zielte auf die Softwareimplementierung des Advanced Encryption Standard (AES) ab und nutzte den Stromverbrauch als Seitenkanal. Die Ergebnisse unterstrichen die entscheidende Rolle der Parameter des Machine-Learning-Algorithmus für die Ergebnisse.

Verbesserung der Genauigkeit: Ein nachfolgender Ansatz befürwortete den Einsatz von maschinellem Lernen, um die Präzision von Seitenkanalangriffen zu steigern. Da diese Angriffe auf den physikalischen Metriken der Hardware-Implementierungen von Kryptosystemen basieren, stützen sie sich oft auf bestimmte parametrische Annahmen. Die Einführung von maschinellem Lernen bietet einen Weg, diese Annahmen zu erleichtern, insbesondere beim Umgang mit hochdimensionalen Merkmalsvektoren.

Neuronale Netze in der Kryptanalyse: Eine weitere innovative Methode setzte ein neuronales Netz für die Kryptanalyse ein. Diese Strategie trainierte das neuronale Netz, Chiffretexte ohne den Verschlüsselungsschlüssel zu entschlüsseln, was zu einer bemerkenswerten Reduzierung der Zeit und der bekannten Klartext-Chiffretext-Paare führte, die für bestimmte Verschlüsselungsstandards erforderlich waren.

Auf vorheriger Arbeit aufbauend: Aufbauend auf dem oben genannten neuronalen Netzansatz zielte eine weitere Studie auf einen leichtgewichtigen Chiffre ab. Der Fokus verlagerte sich auf die Entdeckung des Schlüssels anstelle des Klartextes. Die Effizienz des neuronalen Netzes wurde an sowohl reduzierten als auch vollständigen Runden-Versionen des Chiffres getestet, wobei die Netzwerkkonfigurationen angepasst wurden, um die Genauigkeit zu maximieren.

Analyse verschlüsselten Verkehrs: Eine andere Studie untersuchte die Analyse von verschlüsseltem Netzwerkverkehr auf mobilen Geräten. Das Ziel war es, Benutzeraktionen aus verschlüsselten Daten zu erkennen. Durch passives Überwachen des verschlüsselten Verkehrs und Anwendung fortschrittlicher Techniken des maschinellen Lernens konnten sie Benutzeraktionen mit einer beeindruckenden Genauigkeitsrate ableiten.

Deep Learning in Seitenkanalangriffen: Deep Learning wurde erforscht, um Seitenkanalangriffe zu verfeinern. Das Ziel war es, ausgefeilte Profiling-Techniken zu entwickeln, um Annahmen bei Template-Angriffen zu minimieren. Durch die Anwendung von Deep Learning wurden genauere Ergebnisse bei Seitenkanalangriffen auf bestimmte Verschlüsselungsstandards erzielt.

Gegen Machine-Learning-Angriffe vorgehen: Ein einzigartiger Ansatz wurde eingeführt, um zu verhindern, dass maschinelles Lernen gegen Physical Unclonable Functions (PUFs) in der leichtgewichtigen Authentifizierung weaponisiert wird. Diese Methode kombinierte eine leichtgewichtige PUF-basierte Authentifizierung mit einer Sperrtechnik, die sicherstellte, dass maschinelles Lernen das neue Challenge-Response-Paar nicht erfolgreich extrahieren konnte.

Fazit

Die Integration von maschinellem Lernen in die Kryptographie hat neue Wege eröffnet, um die Sicherheit zu verbessern und Prozesse zu optimieren. Obwohl sie vielversprechende Lösungen bietet, insbesondere im Bereich des kollaborativen Deep Learnings und der Kryptanalyse, gibt es inhärente Sicherheitsbedenken, die angegangen werden müssen. Da sich das Feld weiterentwickelt, ist es für Forscher und Praktiker entscheidend, sich potenzieller Schwachstellen bewusst zu sein und an der Schaffung robuster, sicherer Systeme zu arbeiten.