L'IA générative figure parmi les cinq principaux risques émergents au Q2 2023

L'intelligence artificielle générative (IA), y compris des modèles prominents comme ChatGPT d'OpenAI et Google Bard, a émergé au premier plan des préoccupations en matière de risques d'entreprise au T2 2023, selon une récente étude de Gartner, Inc.

Perspectives de l'enquête

Dans une enquête complète menée en mai 2023, Gartner a contacté 249 cadres supérieurs en gestion des risques d'entreprise, visant à offrir une perspective normalisée sur 20 risques imminents. Les rapports trimestriels sur les risques émergents, une analyse détaillée, éclairent l'impact potentiel, la chronologie, le niveau d'attention et les opportunités perçues associées à ces risques.

La disponibilité massive de l'IA générative a été identifiée comme le deuxième risque le plus fréquemment cité. Pendant ce temps, la viabilité des tiers a pris la première place en tant que risque émergent rapidement surveillé dans l'enquête du T2 2023. L'incertitude de la planification financière et le risque de concentration dans le cloud ont suivi, les tensions commerciales avec la Chine complétant le top cinq. Ces risques représentent un mélange de préoccupations macroéconomiques actuelles, de volatilité géopolitique et de problèmes liés à la technologie.

Ran Xu, directeur de la recherche au sein de la pratique Gartner Risk & Audit, pense que l'apparition soudaine de l'IA générative dans le top 10, classée deuxième, reflète la montée rapide de la sensibilisation du public et l'adoption des outils d'IA générative. Elle souligne également l'immense gamme d'applications potentielles et, par conséquent, les risques associés.

Risques de l'IA générative

Gartner a précédemment identifié six risques inhérents à l'IA générative et quatre domaines pertinents de la réglementation de l'IA. Pour gérer efficacement les risques d'entreprise, Gartner met l'accent sur trois domaines pivots : la propriété intellectuelle, la confidentialité des données et la cybersécurité.

Préoccupations liées à la propriété intellectuelle

Les outils d'IA générative peuvent intégrer involontairement des informations dans leurs ensembles de données d'entraînement. Ran Xu a expliqué que les informations fournies à un outil d'IA générative pourraient faire partie de son ensemble d'entraînement. Cela implique que des données sensibles ou propriétaires pourraient apparaître involontairement dans les sorties destinées à d'autres utilisateurs. De plus, l'utilisation des sorties de ces outils pourrait involontairement violer les droits de propriété intellectuelle des utilisateurs précédents. Gartner souligne l'importance d'éclairer les dirigeants d'entreprise sur la prudence et la transparence requises lors de l'utilisation de tels outils, afin de garantir que les risques liés à la propriété intellectuelle soient correctement pris en compte.

Problèmes de confidentialité des données

Les outils d'IA générative pourraient partager involontairement les données des utilisateurs avec des tiers, tels que des fournisseurs ou des prestataires de services, sans préavis. De telles actions pourraient enfreindre les lois sur la confidentialité dans de nombreuses régions. Il est à noter que la Chine et l'UE ont déjà promulgué des réglementations, avec des projets de loi à venir aux États-Unis, au Canada, en Inde et au Royaume-Uni.

Menaces de cybersécurité

Les outils d'IA générative ne sont pas à l'abri des cybermenaces. Xu a souligné qu'il existe des codes de logiciels malveillants et de rançongiers produits par l'IA générative après avoir été trompés, ainsi que des attaques par « injection de prompt » qui induisent ces outils en erreur pour qu'ils divulguent des informations qu'ils ne devraient pas. Cela ouvre la voie à l'exécution à grande échelle d'attaques de hameçonnage sophistiquées.

Conditions économiques et viabilité des tiers

Les analystes ont également mis en lumière l'amplification potentielle des risques de viabilité des tiers due à l'aggravation des conditions économiques. Une inflation persistante, moins réactive aux ajustements des taux d'intérêt et plus durable que prévu, a intensifié les pressions sur les coûts et les marges des tiers. Alors que les banques centrales relèvent les taux d'intérêt pour combattre l'inflation, cela déclenche une phase de resserrement du crédit, potentiellement poussant les fournisseurs vers une suspension opérationnelle ou une insolvabilité en raison de coûts d'emprunt croissants.

Un ralentissement économique généralisé pourrait entraîner une baisse imprévue de la demande, mettant en péril la viabilité des fournisseurs ou leur capacité à livrer des biens et des services rapidement.

Les experts de Gartner ont décrit trois répercussions potentielles de la viabilité des tiers que les gestionnaires des risques doivent suivre : la perte d'intrants et de matériaux essentiels, des hypothèses de planification financière erronées et des défis externes de la chaîne d'approvisionnement.

Alors que le paysage des risques émergents évolue, les entreprises doivent rester vigilantes, en particulier dans le domaine de l'IA générative. Le mélange d'avancées technologiques et de fluctuations économiques nécessite une approche proactive de la gestion des risques.