Apprentissage profond collaboratif : Applications de l'apprentissage automatique en cryptographie

Dans le domaine de l'apprentissage profond, il existe des cas où les données d'une seule source sont insuffisantes pour entraîner un modèle. Cela a conduit à un intérêt croissant parmi les propriétaires de données pour non seulement utiliser leurs propres données, mais aussi intégrer des données provenant d'autres sources. Une approche pour faciliter cela consiste à utiliser un modèle basé sur le cloud qui peut apprendre à partir de plusieurs sources de données. Cependant, une préoccupation clé est la protection des informations sensibles. 

Cela a donné naissance au concept d'apprentissage profond collaboratif, qui repose sur deux stratégies principales : le partage de données d'entraînement chiffrées et le partage de gradients chiffrés. Le principe général ici est l'utilisation du chiffrement homomorphe entièrement pour garantir que toutes les données, y compris celles utilisées pour les opérations dans le cloud, restent chiffrées tout au long du processus d'apprentissage.

Partage de données chiffrées pour garantir la confidentialité

Il y a eu des approches innovantes pour garantir la confidentialité lors de l'apprentissage profond collaboratif. L'une de ces méthodes implique à la fois les propriétaires de données et un système basé sur le cloud. Voici comment cela fonctionne :

1. Les propriétaires de données créent des clés publiques, des clés secrètes et des clés d'évaluation. Ils chiffrent ensuite leurs données (comme les données d'entraînement et les cibles souhaitées) à l'aide de leurs clés publiques et transmettent ces données chiffrées au cloud.
2. Le cloud, après avoir reçu ces données chiffrées, procède à l'entraînement du modèle en utilisant les clés publiques et d'évaluation fournies par les propriétaires de données.
3. Une fois que le processus d'apprentissage met à jour les poids chiffrés, le cloud renvoie ces poids chiffrés aux propriétaires de données respectifs.
4. Enfin, les propriétaires de données déchiffrent collaborativement les données reçues pour obtenir des poids mis à jour individuels. Ce processus de déchiffrement exploite des techniques de calcul multipartite sécurisé.

Une autre méthode plus complexe a été proposée pour éliminer le besoin pour les propriétaires de données de communiquer pendant le processus de déchiffrement. Cela implique une entité supplémentaire, un centre autorisé (AU), et emploie une combinaison de techniques de double chiffrement et de chiffrement homomorphe entièrement multi-clés. Les étapes sont :

1. Les propriétaires de données créent leurs clés publiques et secrètes et chiffrent leurs données, qui sont ensuite envoyées au cloud. L'AU conserve également une copie des clés secrètes des propriétaires de données.
2. Le cloud, après avoir reçu les données chiffrées mais sans les clés d'évaluation, introduit du bruit dans les données et les transmet à l'AU.
3. L'AU déchiffre ces données en utilisant les clés secrètes des propriétaires de données et les rechiffre avec une clé publique unique avant de les renvoyer au cloud.
4. Le cloud peut désormais calculer des poids chiffrés et mis à jour en utilisant ces données uniformément chiffrées. Une fois terminé, les résultats sont envoyés à l'AU pour un rechiffrement à l'aide des clés publiques individuelles des propriétaires de données.
5. Chaque propriétaire de données reçoit ensuite ses résultats respectifs, qu'il peut déchiffrer à l'aide de ses clés secrètes.

Ce système a été montré pour maintenir la sécurité sémantique, à condition que le système de clé publique utilisé soit également sémantiquement sécurisé. De plus, la confidentialité des paramètres d'apprentissage profond, comme les poids, reste intacte tant que le cloud et l'AU ne conspirent pas.

Dans les avancées récentes, il y a eu des améliorations de la méthode de base en introduisant le chiffrement homomorphe entièrement multi-schéma. Cela permet aux propriétaires de données d'employer divers schémas de chiffrement lors de la participation à l'apprentissage profond collaboratif. De plus, il y a eu des améliorations dans la précision de certaines fonctions d'activation et une augmentation de la précision globale et de la vitesse des tâches de classification par rapport aux méthodes antérieures.

Apprentissage profond collaboratif avec gradients chiffrés

Une approche innovante dans le domaine de l'apprentissage profond collaboratif implique l'utilisation du chiffrement homomorphe additif. Cette méthode a été développée comme une amélioration par rapport aux techniques précédentes qui utilisaient la descente de gradient stochastique asynchrone (ASGD) comme méthode d'apprentissage. Cette approche antérieure était appelée « ASGD sélective par gradients » car elle permettait à chaque propriétaire de données de décider quels gradients partager globalement, garantissant ainsi leur confidentialité. 

Il y avait également une méthode supplémentaire qui incorporait la confidentialité différentielle en introduisant du bruit de Laplace dans les gradients. Malgré ces mesures, il a été démontré qu'il y avait toujours un potentiel de fuite de données sensibles des propriétaires, même si les valeurs de gradient subissaient de légères modifications.

Dans la méthode améliorée utilisant ASGD, le processus peut être résumé comme suit :

1. Les propriétaires de données récupèrent le poids chiffré depuis le cloud et le déchiffrent à l'aide de leur clé secrète.
2. En utilisant les poids globaux et leurs données d'entraînement, le propriétaire des données calcule le gradient au sein de son modèle d'apprentissage profond.
3. Ce gradient, après avoir été multiplié par le taux d'apprentissage, est chiffré à l'aide de la clé secrète du propriétaire des données, puis renvoyé au cloud.
4. Le cloud met ensuite à jour les poids globaux en utilisant les données chiffrées des propriétaires de données, l'opération se limitant à une addition.
5. Un point fort majeur de cette méthode est sa robustesse face aux fuites potentielles de gradients. Le cloud, même s'il agit avec une curiosité malveillante, ne peut pas accéder aux informations du gradient. De plus, lorsque le propriétaire des données déchiffre les résultats provenant du cloud, le résultat correspond parfaitement à ce qui serait attendu si les opérations du cloud avaient été effectuées sur un gradient non chiffré.

Implications en matière de sécurité de l'apprentissage automatique en cryptographie

L'intégration de l'apprentissage automatique en cryptographie a soulevé plusieurs préoccupations en matière de sécurité. Dans cette section, nous présentons un bref résumé des principales conclusions liées à ce sujet ces derniers temps.

Sécurité de l'apprentissage automatique : Une étude de 2006 a examiné la question de savoir si l'apprentissage automatique peut véritablement être sécurisé. Cette recherche a introduit une classification de divers types d'attaques contre les systèmes et techniques d'apprentissage automatique. De plus, elle a présenté des défenses contre ces attaques et fourni un modèle analytique illustrant les efforts de l'attaquant.

Taxonomie élargie des attaques : S'appuyant sur leurs travaux antérieurs, une étude ultérieure a élargi la classification des attaques. Cette recherche a détaillé comment différentes classes d'attaques impactent les coûts pour l'attaquant et le défenseur. Elle a également fourni un examen complet des attaques contre les systèmes d'apprentissage automatique, en utilisant le filtre anti-spam statistique SpamBayes comme étude de cas.

Attaques par évasion : Une étude de 2013 a introduit le concept d'attaques par évasion. Bien que présentant des similitudes avec les attaques d'intégrité exploratoire, les attaques par évasion se concentrent sur l'introduction de données adversariales dans les données d'entraînement des systèmes basés sur l'apprentissage automatique. La recherche a souligné l'importance d'évaluer minutieusement la résistance de l'apprentissage automatique aux données adversariales.

Exploitation des classificateurs d'apprentissage automatique : Une autre étude de 2013 a mis en évidence une méthode par laquelle les classificateurs d'apprentissage automatique pouvaient être manipulés pour révéler des informations. Cette recherche se concentrait sur la divulgation involontaire ou intentionnelle d'informations statistiques provenant des classificateurs d'apprentissage automatique. Un méta-classificateur unique a été développé, entraîné pour pirater d'autres classificateurs et extraire des informations précieuses sur leurs ensembles d'entraînement. De telles attaques pourraient être utilisées pour créer des classificateurs supérieurs ou pour extraire des secrets commerciaux, portant atteinte aux droits de propriété intellectuelle.

Comportement adversarial : Les adversaires peuvent potentiellement contourner les approches d'apprentissage en modifiant leur comportement en réponse à ces méthodes. Il y a eu une exploration limitée des techniques d'apprentissage capables de résister aux attaques avec une robustesse garantie. Un atelier intitulé « Méthodes d'apprentissage automatique pour la sécurité informatique » a été organisé pour favoriser les discussions entre les experts en sécurité informatique et en apprentissage automatique. L'atelier a identifié plusieurs priorités de recherche, allant des applications traditionnelles de l'apprentissage automatique en sécurité aux défis de l'apprentissage sécurisé et à la création de nouvelles méthodes formelles avec une sécurité garantie.

Au-delà de la sécurité informatique traditionnelle : L'atelier a également identifié des applications potentielles au-delà du domaine conventionnel de la sécurité informatique. Ces applications, où des préoccupations de sécurité pourraient surgir en relation avec des méthodes basées sur les données, incluent le spam des réseaux sociaux, la détection du plagiat, l'identification d'auteurs, l'application du droit d'auteur, la vision par ordinateur (en particulier la biométrie) et l'analyse des sentiments.

Sécurité et confidentialité dans l'apprentissage automatique : Une étude de 2016 a fourni une analyse approfondie des préoccupations de sécurité et de confidentialité dans l'apprentissage automatique. Elle a introduit un modèle de menace détaillé pour l'apprentissage automatique, catégorisant les attaques et les défenses dans un cadre adversarial. Les paramètres adversariaux pour l'entraînement ont été divisés en deux catégories principales : celles ciblant la confidentialité et celles ciblant l'intégrité. L'inférence dans des paramètres adversariaux a également été catégorisée en adversaires en boîte blanche et en boîte noire. L'étude a conclu en discutant de la voie à suivre pour atteindre un modèle d'apprentissage automatique robuste, privé et responsable.

Progrès passés de l'apprentissage automatique en cryptanalyse

L'apprentissage automatique est de plus en plus intégré au domaine de la cryptanalyse, en particulier pour améliorer les capacités des attaques par canaux auxiliaires. Voici un aperçu concis de ses applications :

Intégration précoce de l'apprentissage automatique : L'une des premières incursions dans ce domaine a impliqué l'utilisation de l'algorithme d'apprentissage des Moindres Carrés Support Vector Machine (LS-SVM). Cette méthode ciblait l'implémentation logicielle du Standard de Chiffrement Avancé (AES) en utilisant la consommation d'énergie comme canal auxiliaire. Les résultats ont mis en évidence le rôle pivot des paramètres de l'algorithme d'apprentissage automatique sur les résultats.

Amélioration de la précision : Une approche ultérieure a préconisé l'utilisation de l'apprentissage automatique pour augmenter la précision des attaques par canal auxiliaire. Puisque ces attaques sont basées sur les métriques physiques des implémentations matérielles des cryptosystèmes, elles reposent souvent sur certaines hypothèses paramétriques. L'introduction de l'apprentissage automatique offre un moyen d'alléger ces hypothèses, surtout lors du traitement de vecteurs de caractéristiques de haute dimension.

Réseaux de neurones en cryptanalyse : Une autre méthode innovante a employé un réseau de neurones pour la cryptanalyse. Cette stratégie a entraîné le réseau de neurones à déchiffrer les chiffrés sans la clé de chiffrement, conduisant à une réduction notable du temps et des paires de texte clair-chiffré connus requis pour certaines normes de chiffrement.

Développement des travaux précédents : S'appuyant sur l'approche de réseau de neurones susmentionnée, une autre étude a ciblé un chiffrement léger. L'accent a été déplacé vers la découverte de la clé au lieu du texte clair. L'efficacité du réseau de neurones a été testée sur des versions à nombre de tours réduit et complet du chiffrement, en ajustant les configurations du réseau pour maximiser la précision.

Analyse du trafic chiffré : Une étude différente a plongé dans l'analyse du trafic réseau chiffré sur les appareils mobiles. L'objectif était de discerner les actions des utilisateurs à partir de données chiffrées. En surveillant passivement le trafic chiffré et en appliquant des techniques avancées d'apprentissage automatique, ils ont pu déduire les actions des utilisateurs avec un taux de précision impressionnant.

Apprentissage profond dans les attaques par canal auxiliaire : L'apprentissage profond a été exploré pour affiner les attaques par canal auxiliaire. L'objectif était de développer des techniques de profilage sophistiquées pour minimiser les hypothèses dans les attaques par modèle. En appliquant l'apprentissage profond, des résultats plus précis ont été obtenus dans les attaques par canal auxiliaire sur certaines normes de chiffrement.

Contrer les attaques par apprentissage automatique : Une approche unique a été introduite pour empêcher l'apprentissage automatique d'être utilisé comme arme contre les Fonctions Physiques Irréplicables (PUF) dans l'authentification légère. Cette méthode a combiné une authentification légère basée sur PUF avec une technique de verrouillage, garantissant que l'apprentissage automatique ne pouvait pas extraire avec succès la nouvelle paire défi-réponse.

Conclusion

L'intégration de l'apprentissage automatique en cryptographie a ouvert de nouvelles voies pour renforcer la sécurité et optimiser les processus. Bien qu'elle offre des solutions prometteuses, notamment dans l'apprentissage profond collaboratif et la cryptanalyse, des préoccupations inhérentes en matière de sécurité doivent être abordées. À mesure que le domaine évolue, il est crucial pour les chercheurs et les praticiens d'être conscients des vulnérabilités potentielles et de travailler à la création de systèmes robustes et sécurisés.