L'adoption de l'IA expose de nouvelles menaces de cybersécurité

Un expert en cybersécurité a révélé que l'IA constitue une menace cybersécurité dangereuse pour les entreprises qui l'utilisent comme service, non seulement par l'exécution d'attaques par des criminels, mais aussi légitimement.

Les vulnérabilités cyber de l'IA

Bien que la menace posée par les acteurs malveillants utilisant l'IA pour délivrer des attaques ait été largement discutée, Peter Garraghan, PDG et CTO de Midgard, qui fournit une cybersécurité spécifiquement pour l'IA, déclare : « Le problème auquel je pense est une menace de cybersécurité pour l'IA, qui est celle sur le sujet. »

Prévisiblement, l'utilisation la plus courante et donc la plus à risque de l'IA par les entreprises concerne les chatbots qui servent de service client et dont le ton et les données sont généralement personnalisés pour les organisations qu'ils représentent. C'est là que le Dr Garraghan, professeur d'informatique à l'Université de Lancaster spécialisé dans la sécurité et les systèmes de l'IA, a décidé de trouver Mindgard en 2022. « L'IA n'est pas de la magie », dit-il. Ce n'est qu'une combinaison de codage supplémentaire, de données et de matériel. Compte tenu des menaces cyber modernes, toutes ces menaces peuvent également se manifester dans l'IA.

Pensons-y ainsi : supposons qu'un attaquant utilise un processus connu sous le nom d'injection SQL. Un attaquant peut utiliser ce processus pour exploiter les vulnérabilités dans les champs de formulaire web comme la connexion au site web ou le formulaire de contact. Une autre façon dont l'ingestion de téléprompteur peut être utilisée est l'injection de prompt, qui est utilisée dans les applications publiques. Tout d'abord, si la sécurité n'est pas correctement assurée, les outils d'IA peuvent pratiquement être forcés de fuir leur code source et leurs instructions, la propriété intellectuelle de l'entreprise ou les données des clients. Deuxièmement, les outils d'IA peuvent être rétroconçus comme d'autres applications logicielles pour identifier les failles.

Sécuriser les systèmes d'IA

Garraghan parle de la gravité du problème : Dans l'avenir envisagé, dans quelques années, le facteur de la sécurité nationale peut surgir, ou les personnes dépourvues de droits peuvent être à risque. Les nouvelles informations semblent être un avertissement : une entreprise devrait se méfier des données publiées.

Garraghan déclare : « De plus, l'IA peut servir d'outil de cyberattaque où elle peut fuir des données ; le modèle sera en mesure de fournir les données que vous avez demandées avec courtoisie. » Présentant un exemple en janvier, la plateforme de médias sociaux de droite Gab a recherché des tutoriels qui ont accidentellement révélé leurs instructions. La plateforme basée sur GPT OpenAI avait également vu ses modèles mal utilisés.

Garraghan affirme que des informations peuvent être obtenues par des attaques VoIP non autorisées. De plus, l'IA peut être rétroconçue, et le système peut être contourné ou trompé pour accéder ouvertement à d'autres systèmes. Ainsi, la fuite d'informations pourrait être l'un des principaux domaines touchés dans toutes les industries, y compris celles qui peuvent être orientées vers l'extérieur ou l'intérieur. Il énumère également d'autres risques, tels que l'évasion du modèle, où le modèle est induit en erreur ou délibérément évité en fabriquant des données trompeuses.

Garraghan a souligné que l'insertion de commandes malveillantes ou l'altération des données avec des solutions mal conçues dans les pistes audio est une autre menace. De plus, il note que l'impact cyber général est les dommages à la réputation couramment subis après des cyberattaques. De même, les zones les plus à risque des conséquences négatives de ce type de cyberattaque sont celles où les enjeux sont les plus élevés. Avec de nombreuses industries et institutions qui opèrent en ligne, la sécurité publique et l'absence de fuites d'informations confidentielles, par exemple, sont des valeurs importantes que les secteurs des services financiers et de la santé devraient prioriser.

Garraghan dit : Le lien ici est que plus vous êtes structuré et contrôlant dans votre industrie et plus vous faites face à des risques de l'IA (et aussi par expérience : moins vous utilisez l'IA, moins vous l'adoptez), plus votre IA est mauvaise. Peut-être ne sont-ils pas les plus paresseux. Par exemple, ils peuvent simplement traverser les étapes les plus graves de leur vie.

Mesures proactives de sécurité de l'IA

L'IA prendra en charge ces risques dans toute entreprise spécifique, bien qu'il affirme qu'il faudra des couches de sécurité (car l'IA dans les entreprises en a déjà besoin) pour la protection des utilisateurs. « Vous avez déjà des outils de cybersécurité spécialisés dans différents secteurs », dit Garraghan. « Il peut s'agir d'outils de gestion de la posture de sécurité, d'outils de détection et de réponse, de pare-feux et de support pour le design shift left, tel que l'analyse de code. Vous aurez bientôt besoin de l'IA alignée sur la transformation numérique. » Le genre se spécialise exclusivement dans l'IA et le ML, tandis que des systèmes comme les réseaux neuronaux ne sont mentionnés qu'occasionnellement

Vous aurez besoin d'un analyseur d'applications de réseaux neuronaux, d'un système de réponse pour tous les types de réseaux neuronaux, de tests de sécurité et de red teaming pour un meilleur contrôle entre les applications, et vous aurez besoin d'un système de réponse pour tous les types de réseaux neuronaux. Il est plus facile de corriger et de remédier à ces problèmes tôt plutôt qu'à l'exécution. Cependant, la meilleure pratique que nous recommandons aux organisations qui utilisent des modèles d'IA ou des applications et services d'IA achetés est qu'avant qu'il ne passe en production, il est plus facile de corriger tous les problèmes avec les modèles. Ensuite, après qu'il passe en production, seuls les problèmes qui doivent être corrigés peuvent être identifiés.