Chargement...

L'IA générative suscite des inquiétudes parmi les chefs d'entreprise (étude)

Dans cet article :

  • L’adoption de l’IA générative augmente ; retard en matière de gouvernance et de sécurité.
  • L’infiltration silencieuse des outils d’IA suscite des problèmes de cybersécurité.
  • Équilibrer les avantages et les risques de l’intégration de l’IA générative.

Plus de 90 % des cadres supérieurs s'inquiètent de l'utilisation non surveillée des outils d'IA générative.

Une étude récente menée par le fournisseur de cybersécurité Kaspersky a révélé des inquiétudes croissantes parmi les dirigeants quant à la prolifération non réglementée des outils d'intelligence artificielle générative (GenAI) dans leurs organisations. Alors que 90 % des hauts dirigeants d’entreprise expriment leurs inquiétudes quant à l’adoption incontrôlée de ces outils, il est dent que l’IA générative est de plus en plus intégrée dans diverses opérations commerciales.

Infiltration silencieuse de l’IA générative

L'étude de Kaspersky révèle que plus de la moitié (53 %) des cadres supérieurs interrogés estiment que l'IA générative « pilote » désormais activement certains secteurs d'activité au sein de leur organisation. Cependant, 59 % d’entre eux ont également exprimé de profondes inquiétudes face à ce qu’ils ont décrit comme une « infiltration silencieuse » de l’IA générative, entraînant des cyber-risques accrus. Ce phénomène d’« IA fantôme », dans lequel les employés intègrent l’IA générative sans surveillance appropriée, pose des défis importants en matière de sécurité et de gouvernance des données.

Un constat alarmant est que seulement 22 % des chefs d’entreprise interrogés ont discuté de la mise en œuvre de politiques de gouvernance interne pour surveiller l’utilisation de l’IA générative au sein de leur organisation. De plus, 91 % ont admis avoir besoin de mieux comprendre comment ces outils sont utilisés pour atténuer les risques de sécurité.

David Emm, chercheur principal en sécurité chez Kaspersky, a souligné l'urgence de résoudre ce problème, déclarant : « Étant donné que de GenAI ne montre actuellement aucun signe de ralentissement, plus ces applications fonctionneront sans contrôle longtemps, plus elles deviendront difficiles à contrôler et à sécuriser dans les principaux domaines. fonctions commerciales telles que les ressources humaines, la finance, le marketing ou même l'informatique.

Problèmes de violation de données

L'IA générative repose sur un apprentissage continu grâce à la saisie de données, ce qui fait de la protection des données une préoccupation primordiale. Même lorsqu’ils sont utilisés de bonne foi, les employés peuvent sans le savoir transmettre des données sensibles à l’extérieur de l’organisation, provoquant potentiellement une violation de données. Les recherches de Kaspersky reflètent cette préoccupation, puisque 59 % des dirigeants expriment de sérieuses appréhensions quant au risque de perte de données.

Malgré ces appréhensions, l’étude a également révélé que 50 % des chefs d’entreprise envisagent d’exploiter l’IA générative dans une certaine mesure, principalement pour automatiser les tâches répétitives. De plus, 44 % ont l'intention d'intégrer des outils d'IA générative dans leurs routines quotidiennes. Notamment, 24 % ont indiqué qu’ils étaient enclins à utiliser l’IA générative pour automatiser les fonctions informatiques et de sécurité.

Emm a commenté cette tendance en disant : « On pourrait supposer que la perspective d'une perte de données sensibles et d'une perte de contrôle d'unités commerciales critiques pourrait donner à réfléchir aux dirigeants, mais nos conclusions révèlent que près d'un quart des patrons du secteur envisagent actuellement la délégation de certaines de leurs fonctions les plus importantes à AI.

Cependant, il a également souligné la nécessité d'une compréhension globale de la gestion des données et de politiques solides avant d'intégrer davantage GenAI dans l'environnement de l'entreprise.

Le débat autour des risques et des avantages de l’IA générative a pris de l’importance. Le Premier ministre britannique Rishi Sunak a récemment appelé à une prise de conscience accrue des risques associés à l’IA générative. Cela précède le sommet sur la sécurité de l'IA à Bletchley Park, où des leaders et des experts de l'industrie discuteront de l'avenir de la réglementation et de l'intégration de cette technologie émergente.

Épée à double tranchant de l’IA générative

Fabien Rech, vice- dent principal et directeur général de Trellix, a souligné la double nature de l'IA générative, déclarant : « L'IA générative est une arme à double tranchant : à mesure que le paysage de la cybersécurité continue d'évoluer, la prolifération de l'IA générative ne fait qu'ajouter davantage. complexité au mélange.

Rech a souligné l'importance pour les organisations d'être conscientes des implications de la technologie de l'IA générative et de la manière dont elle peut être exploitée et intégrée efficacement. Si les outils d’IA générative offrent l’avantage de simplifier les tâches quotidiennes et d’améliorer la productivité, leur utilisation abusive potentielle dans des activités malveillantes telles que l’injection de code, le phishing, l’ingénierie sociale et la technologie deepfake suscite également des inquiétudes.

Il a exhorté les organisations à donner la priorité à des mesures de sécurité robustes et à l'intégration de solutions technologiques appropriées pour mettre en place une protection résiliente contre les cybermenaces.

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

Deutsche Telekom se lance dans l'industrie minière Bitcoin
cryptopolite
Abonnez-vous à CryptoPolitan