Les entreprises font face à des menaces croissantes alors que les risques de l'IA générative se multiplient

Une récente enquête menée par Riskonnect a mis en lumière les risques importants liés à l'intégration de l'IA générative dans les environnements d'entreprise. Bien que la grande majorité, 93 %, des entreprises reconnaissent ces risques, seulement 9 % se considèrent suffisamment équipées pour faire face et atténuer ces dangers imminents.

Les entreprises peinent à suivre le rythme de la gestion des risques liés à l'IA

Les résultats de l'étude indiquent un manque inquiétant de mesures pour traiter les questions de gestion des risques liés à l'IA à l'échelle des entreprises. Seuls 17 % des dirigeants en matière de risque et de conformité ont pris des mesures formelles pour informer et sensibiliser leurs organisations respectives aux risques potentiels associés à l'adoption de technologies d'IA générative.

Jim Wetekamp, directeur général de Riskonnect, a exprimé ses inquiétudes concernant la lenteur de la réponse à cette menace émergente, déclarant : « L'IA générative progresse à un rythme sans précédent, apportant une nouvelle vague de risques commerciaux. Nos résultats de recherche mettent en évidence la réponse lente des entreprises, créant des vulnérabilités dans toute l'organisation. La montée de l'IA générative est le dernier exemple de la rapidité avec laquelle le paysage des risques contemporains évolue. Nous sommes incontestablement entrés dans une nouvelle ère du risque. »

Principales préoccupations : confidentialité des données, cybersécurité et au-delà

L'étude souligne diverses préoccupations pressantes parmi les entreprises en relation avec l'IA générative. Parmi ces préoccupations figurent la confidentialité des données et les problèmes de cybersécurité, 65 % des entreprises exprimant des inquiétudes. De plus, 60 % des répondants sont préoccupés par la perspective que les employés prennent des décisions fondées sur des informations erronées, tandis que 55 % s'inquiètent des comportements inappropriés potentiels des employés et des dilemmes éthiques. Les risques liés à la propriété intellectuelle et les violations du droit d'auteur sont également très présents, 34 % reconnaissant ces préoccupations comme valables.

Risques prédominants actuels

Même si l'IA générative prend une importance croissante, les entreprises restent vulnérables à d'autres facteurs de risque. Les quatre principaux risques affectant les organisations comprennent les pénuries de talents et les licenciements, les risques de récession, les rançongiciels, les violations de sécurité et les cyberattaques parrainées par des États.

Il est notable que 63 % des entreprises n'ont pas simulé leurs scénarios de pire cas, les laissant mal préparées à gérer et à naviguer dans des risques imprévus. Seuls 5 % se sentent suffisamment équipés pour faire face à des événements de risque imprévus et imprévisibles à l'avenir.

Un autre problème notable mis en évidence par l'étude est le manque de confiance dans la gestion des risques. Seuls 23 % des organisations ont confiance dans l'exactitude, la qualité et l'applicabilité des données de leur gestion des risques. Une fraction encore plus petite, seulement 5 %, fait preuve d'une forte confiance dans sa capacité à extraire, consolider et communiquer des informations sur les risques pour une prise de décision éclairée.

Parmi les défis que les entreprises associent aux pénuries de main-d'œuvre et aux licenciements, l'étude met en lumière les erreurs et les raccourcis provoqués par l'épuisement professionnel des travailleurs comme la préoccupation la plus importante, 66 % des entreprises exprimant des inquiétudes. Suit de près la crainte de ne pas pouvoir atteindre les objectifs stratégiques, une préoccupation partagée par 41 % des organisations.

Investissements pour faire face aux risques émergents

Malgré ces défis, les entreprises prennent des mesures proactives pour faire face aux risques émergents. Une découverte notable est que 52 % des entreprises ont nommé un directeur des risques, et 6 % de plus prévoient de le faire dans les 6 à 12 mois à venir. Cela reflète la reconnaissance croissante du rôle critique d'un leadership dédié à la gestion des risques.

De plus, malgré les licenciements dans d'autres secteurs, 82 % des entreprises affirment que leur effectif dédié à la gestion des risques a soit augmenté, soit resté stable au cours du dernier semestre. En outre, 28 % des organisations ont signalé des augmentations des allocations budgétaires pour la technologie de gestion des risques au cours de la même période.

Jim Wetekamp, PDG de Riskonnect, a commenté ces changements encourageants, déclarant : « Nous assistons à des changements significatifs et positifs dans la façon dont les entreprises identifient, priorisent et gèrent les risques. Les dirigeants des risques d'aujourd'hui reconnaissent que le paysage des menaces est en constante évolution. Ils planifient stratégiquement les scénarios de pire cas, privilégient la visibilité à l'échelle de l'entreprise et investissent dans des outils pour combattre le spectre complet et interconnecté des risques. »