L'adoption de l'IA générative par les entreprises suscite une urgence pour des politiques de sécurité robustes

La hausse de l'adoption de l'IA générative par les entreprises suscite l'inquiétude au sein de la communauté de la cybersécurité, soulignant le besoin urgent de politiques de sécurité complètes. L'évolution rapide de l'IA générative, couplée à son immense potentiel et à ses risques de sécurité inhérents, a conduit à une situation où les directives régissant son utilisation sont en retard par rapport à son adoption généralisée.

Établir de solides politiques de sécurité pour l'IA générative

Pour les Directeurs de la Sécurité des Systèmes d'Information (DSSI/CISO), le message est clair : face à l'escalade de l'utilisation commerciale, une action immédiate est requise pour formuler des politiques de sécurité de l'IA robustes, spécifiquement adaptées pour répondre aux défis uniques posés par l'IA générative. Contrairement à l'IA conventionnelle, l'IA générative évolue rapidement, présentant des implications de sécurité sérieuses qui exigent des mesures proactives.

Des enquêtes récentes indiquent une augmentation substantielle de l'adoption de l'IA générative, avec 79 % des organisations du secteur public et 83 % de celles du secteur privé l'intégrant dans leurs systèmes de production. Les principaux moteurs de l'adoption incluent l'automatisation pour améliorer la productivité, l'innovation et la génération d'idées, ainsi que la gestion des risques cybernétiques. De plus, l'adoption rapide des grands modèles de langage (LLM) créés par des tiers soulève des préoccupations concernant les risques tiers et la nécessité de principes éthiques pour guider la réglementation de l'IA et des LLM.

Impératifs de politique de sécurité : tirer les leçons du shadow IT

S'inspirant des défis posés par le shadow IT, les organisations sont exhortées à éviter la procrastination et à développer rapidement des politiques de sécurité pour l'IA générative. Les données historiques indiquent que les réponses tardives aux technologies émergentes, comme on l'a observé avec le shadow IT, peuvent entraîner des risques de sécurité ingérables. L'impératif est de trouver un équilibre entre le soutien à l'innovation et l'atténuation des risques associés à l'adoption rapide de l'IA générative.

Élaborer des politiques de sécurité efficaces pour l'IA générative

Le défi critique pour les DSSI réside dans l'élaboration de politiques de cybersécurité qui non seulement soutiennent l'adoption commerciale, mais traitent également efficacement les risques sans étouffer l'innovation. En mettant l'accent sur une approche ascendante alignée sur les objectifs commerciaux, ces politiques devraient englober le contrôle d'accès, le chiffrement des données et la gestion proactive des menaces. La nature dynamique de l'IA générative nécessite une boucle de rétroaction continue pour adapter les politiques aux cas d'utilisation commerciaux évolutifs et aux risques émergents.

L'alignement des politiques de sécurité de l'IA générative avec les besoins commerciaux est à la fois un défi et une opportunité. Les organisations acquièrent principalement de l'IA générative plutôt que de la développer, ce qui nécessite une compréhension complète des divers cas d'utilisation commerciaux. Cet alignement permet d'intégrer les contrôles de sécurité dès le début, empêchant les politiques de sécurité d'exister isolément et assurant leur applicabilité dans diverses fonctions commerciales.

Gestion des risques par cas d'utilisation : adapter les politiques aux exigences commerciales

Reconnaissant que les cas d'utilisation de l'IA générative varient selon les entreprises et les départements, les DSSI sont encouragés à adopter une approche nuancée de gestion des risques par cas d'utilisation. Des interdictions globales de l'utilisation de l'IA pourraient étouffer l'innovation, nécessitant une compréhension détaillée des besoins spécifiques des départements. Différencier les politiques en fonction de la sensibilité des informations et des exigences réglementaires est crucial, en évitant les solutions uniques.

Reconnaissant les capacités évolutives de l'IA générative, les DSSI font face au défi de rester à jour avec les avancées technologiques. Compte tenu de la pénurie de compétences, l'aide d'experts externes peut être essentielle pour que les DSSI gèrent proactivement la sécurité de l'IA générative. Parallèlement, les organisations doivent investir dans la formation des employés pour assurer une utilisation responsable de l'IA générative, mettant en lumière les risques associés et l'approche vérifiée et sécurisée adoptée par l'entreprise.

Éléments clés des politiques d'IA générative

Des politiques de sécurité efficaces pour l'IA générative devraient englober des mesures de sécurité des données, y compris le chiffrement, l'anonymisation et le classement des données. Étant donné la quantité significative de données traitée par les systèmes d'IA, des contrôles robustes doivent empêcher l'accès non autorisé, l'utilisation ou le transfert d'informations sensibles. Les DSSI sont conseillés de se concentrer sur les domaines émergents de la gestion des risques internes, tels que la prévention et la détection de la perte de données, pour sécuriser l'utilisation de l'IA générative.

Les politiques d'IA générative ne devraient pas seulement régir l'entrée des données, mais aussi aborder la fiabilité du contenu produit. Les préoccupations concernant les « hallucinations » et les inexactitudes dans les grands modèles de langage nécessitent des processus clairs de révision manuelle, garantissant que le contenu généré est validé avant d'influencer les décisions commerciales critiques. L'exécution de code non autorisée et le potentiel d'attaques améliorées par l'IA générative devraient également être pris en compte dans le cadre des politiques de sécurité.

Politiques de sécurité d'IA générative prêtes pour l'avenir

L'urgence pour les organisations d'établir des politiques de sécurité robustes pour l'IA générative est primordiale. Les DSSI doivent naviguer dans le paysage évolutif, aligner les politiques sur les besoins commerciaux et traiter proactivement les menaces émergentes. Alors que l'IA générative continue son ascension rapide, une politique de sécurité bien communiquée et accessible qui englobe la gestion de la chaîne d'approvisionnement et l'éducation des employés sera instrumentale pour favoriser une adoption sécurisée et responsable de l'IA.