Quelles mesures peuvent protéger contre les risques de sécurité de ChatGPT ?

Dans le paysage technologique en constante évolution, ChatGPT a rapidement gagné en importance, affichant un record de 100 millions d'utilisateurs actifs en seulement deux mois après sa sortie en janvier 2023. Mais, à mesure que les organisations intègrent de plus en plus cet outil puissant dans leurs opérations, les ombres des risques de sécurité planent lourdement. Des manipulations subtiles par les acteurs malveillants à une violation de données significative et à l'utilisation involontaire par les employés, les pièges potentiels sont divers et étendus.

Risques de sécurité de ChatGPT et dangers imprévus

En tant qu'application à la croissance la plus rapide de l'histoire, ChatGPT a inévitablement attiré l'attention des cybercriminels cherchant à exploiter ses capacités. Bien que la plateforme elle-même reste sécurisée, il existe des preuves croissantes que les acteurs malveillants utilisent ChatGPT à des fins malveillantes. Check Point Research a découvert des cas où des cybercriminels utilisent la plateforme pour développer des logiciels malveillants de vol d'informations et rédiger des e-mails de hameçonnage (spear-phishing) avec une sophistication sans précédent.

Le défi inhérent réside dans le fait que la formation traditionnelle à la sensibilisation à la sécurité, conçue pour repérer les anomalies dans les e-mails mal rédigés, devient moins efficace lorsque ChatGPT est impliqué. La plateforme peut transformer un e-mail mal écrit en un message convaincant, éliminant les drapeaux rouges habituels. Les acteurs malveillants peuvent traduire sans effort les e-mails de hameçonnage entre différentes langues, contournant les filtres basés sur la langue. Les implications sont profondes, car les organisations doivent désormais adapter leurs mesures de sécurité pour tenir compte de cette nouvelle voie de cybermenaces alimentée par l'IA.

Vulnérabilités au cœur de ChatGPT

Dans une révélation choquante, ChatGPT lui-même a été victime d'une violation de données en 2023, suite à un bug dans une bibliothèque open source. OpenAI a divulgué que cette violation a exposé involontairement des informations liées aux paiements pour 1,2 % des abonnés actifs de ChatGPT pendant une fenêtre spécifique de neuf heures. Compte tenu de la base d'utilisateurs massive de la plateforme, elle est devenue une cible attractive pour les attaques potentielles de type « watering hole », les cybercriminels cherchant à exploiter des vulnérabilités cachées.

Cet incident souligne l'importance d'examiner attentivement l'architecture de sécurité des plateformes d'IA largement utilisées. Les organisations doivent rester vigilantes, reconnaissant qu'une violation sur une telle plateforme pourrait avoir des effets en cascade, touchant des millions d'utilisateurs. L'urgence de renforcer ChatGPT contre les vulnérabilités potentielles devient primordiale pour protéger les données sensibles et maintenir la confiance des utilisateurs.

ChatGPT fonctionne sur un principe similaire à celui des réseaux sociaux : une fois les informations saisies, elles font partie de la base de connaissances de la plateforme. Cette caractéristique pose un défi unique pour prévenir les abus par les employés qui pourraient involontairement exposer des données sensibles en les collant dans ChatGPT pour demander de l'aide. Crucialement, ChatGPT conserve les saisies des utilisateurs, créant une voie potentielle pour une exposition involontaire des données.

Pour atténuer ce risque, OpenAI a introduit ChatGPT Enterprise, un service d'abonnement payant garantissant que les invites des clients et les données de l'entreprise ne sont pas utilisées pour l'entraînement des modèles. L'adoption de ce service n'est pas garantie, et les organisations doivent relever le défi de s'assurer que les employés respectent une utilisation appropriée.

Comment utiliser ChatGPT de manière sécurisée

Face à ces risques émergents, certaines organisations ont choisi de bloquer purement et simplement l'utilisation de ChatGPT, ce qui pourrait entraver la performance globale de l'entreprise à long terme. Mais, avec la bonne approche, ChatGPT peut être utilisé en toute sécurité pour débloquer ses avantages potentiels. L'IA excelle dans les tâches qui défient l'efficacité humaine, en particulier dans le traitement de grands ensembles de données pour extraire des corrélations et des thèmes.

Plutôt que de bloquer la plateforme, les organisations sont incitées à adopter une stratégie de sécurité multicouche. Le service d'abonnement d'OpenAI est un pas dans la bonne direction, mais les organisations devraient également envisager des outils supplémentaires. Menlo Security recommande la technologie d'isolation, non seulement comme outil de DLP (Data Loss Prevention), mais aussi pour enregistrer les données des sessions, garantissant la conformité aux politiques des utilisateurs finaux sur des plateformes telles que ChatGPT. Cette approche basée sur le cloud empêche les charges malveillantes d'atteindre les appareils des utilisateurs finaux, offrant une couche de protection robuste contre les menaces potentielles.

Alors que les organisations naviguent dans le paysage de l'intégration de l'IA, comprendre et adresser les risques de sécurité associés à ChatGPT est crucial. En reconnaissant les dangers invisibles posés par les acteurs malveillants, en se renforçant contre les violations potentielles et en mettant en œuvre des stratégies pour prévenir les abus des employés, les organisations peuvent utiliser ChatGPT en toute sécurité, débloquant son potentiel transformateur tout en protégeant les informations sensibles et en maintenant la confiance des utilisateurs.