L’IA générative soulève des inquiétudes parmi les dirigeants d’entreprise : étude

Plus de 90 % des cadres supérieurs expriment des préoccupations concernant l’utilisation non surveillée des outils d’IA générative

Une étude récente menée par le fournisseur de cybersécurité Kaspersky a révélé des préoccupations croissantes parmi les cadres supérieurs concernant la prolifération non réglementée des outils d’intelligence artificielle générative (GenAI) dans leurs organisations. Avec 90 % des dirigeants commerciaux seniors exprimant des inquiétudes quant à l’adoption non contrôlée de ces outils, il est évident que l’IA générative s’intègre de plus en plus dans diverses opérations commerciales.

Infiltration silencieuse de l’IA générative

L’étude de Kaspersky a révélé que plus de la moitié (53 %) des cadres supérieurs interrogés estiment que l’IA générative « pilote » désormais certaines lignes de business au sein de leurs organisations. Cependant, 59 % d’entre eux ont également exprimé de profondes préoccupations concernant ce qu’ils ont décrit comme une « infiltration silencieuse » de l’IA générative, entraînant des risques cybernétiques accrus. Ce phénomène d’« ombre IA », où les employés intègrent l’IA générative sans supervision appropriée, pose des défis significatifs à la sécurité des données et à la gouvernance.

Une découverte alarmante est que seulement 22 % des dirigeants commerciaux interrogés ont discuté de la mise en œuvre de politiques de gouvernance interne pour surveiller l’utilisation de l’IA générative au sein de leurs organisations. De plus, 91 % ont admis avoir besoin d’une meilleure compréhension de la façon dont ces outils sont utilisés pour atténuer les risques de sécurité.

David Emm, chercheur principal en sécurité chez Kaspersky, a souligné l’urgence de résoudre ce problème, déclarant : « Étant donné que l’évolution rapide de GenAI ne montre actuellement aucun signe de ralentissement, plus ces applications fonctionnent sans contrôle, plus il sera difficile de les contrôler et de les sécuriser dans les grandes fonctions commerciales telles que les RH, la finance, le marketing ou même les TI. »

Préoccupations concernant les violations de données

L’IA générative repose sur un apprentissage continu grâce aux entrées de données, faisant de la protection des données une préoccupation primordiale. Même lorsqu’elles sont utilisées de bonne foi, les employés peuvent transmettre involontairement des données sensibles en dehors de l’organisation, provoquant potentiellement une violation de données. La recherche de Kaspersky a reflété cette préoccupation, 59 % des dirigeants exprimant une appréhension sérieuse quant au risque de perte de données.

Malgré ces appréhensions, l’étude a également révélé que 50 % des dirigeants commerciaux prévoient d’exploiter l’IA générative d’une manière ou d’une autre, principalement pour automatiser les tâches répétitives. De plus, 44 % ont l’intention d’intégrer des outils d’IA générative dans leurs routines quotidiennes. Notamment, 24 % ont indiqué qu’ils étaient enclins à utiliser l’IA générative pour automatiser les fonctions informatiques et de sécurité.

Emm a commenté cette tendance, disant : « On pourrait supposer que la perspective d’une perte de données sensibles et de la perte de contrôle d’unités commerciales critiques pourrait faire réfléchir les cadres supérieurs, mais nos résultats révèlent que près d’un quart des patrons de l’industrie envisagent actuellement de déléguer certaines de leurs fonctions les plus importantes à l’IA. »

Cependant, il a également souligné la nécessité d’une compréhension complète de la gestion des données et de politiques robustes avant d’intégrer davantage GenAI dans l’environnement d’entreprise.

La discussion autour des risques et des avantages de l’IA générative a gagné en importance. Le Premier ministre britannique Rishi Sunak a récemment appelé à une prise de conscience accrue des risques associés à l’IA générative. Cela intervient avant le Sommet sur la sécurité de l’IA à Bletchley Park, où les leaders de l’industrie et les experts discuteront de l’avenir de la réglementation et de l’intégration de cette technologie émergente.

L’épée à double tranchant de l’IA générative

Fabien Rech, Vice-Président Senior et Directeur Général chez Trellix, a souligné la nature double de l’IA générative, déclarant : « L’IA générative est une épée à double tranchant – à mesure que le paysage de la cybersécurité continue d’évoluer, la prolifération de l’IA générative n’ajoute que plus de complexité au mélange. »

Rech a souligné l’importance pour les organisations d’être conscientes des implications de la technologie d’IA générative et de la manière dont elle peut être exploitée et intégrée efficacement. Bien que les outils d’IA générative offrent l’avantage de simplifier les tâches quotidiennes et d’améliorer la productivité, il existe également des préoccupations concernant leur utilisation potentielle dans des activités malveillantes telles que l’injection de code, le phishing, l’ingénierie sociale et la technologie deepfake.

Il a exhorté les organisations à prioriser des mesures de sécurité robustes et l’intégration de solutions technologiques appropriées pour construire une protection résiliente contre les menaces cybernétiques.