Au Royaume-Uni, une entreprise sur trois s'inquiète de la sécurité de ses données lorsqu'elle utilise des modèles de langage étendus (LLM), car ceux-ci sont passés d'assistants répondant à des commandes ou à des questions à des systèmesdent agissant sans intervention humaine constante.
De ce fait, ces organisations hésitent à intégrer pleinement des agents d'IA dans leurs systèmes d'exploitation car elles craignent de perdre le contrôle de leurs données et de leur sécurité au profit de machines capables de « penser par elles-mêmes ».
Le gouvernement britannique prend des mesures pour relever ces défis. Le ministre du Cabinet, Pat McFadden, a annoncé la déclassification d'une évaluation des services de renseignement indiquant que l'IA intensifiera les cybermenaces dans les années à venir.
En 2024, le NCSC a reçu près de 2 000 signalements de cyberattaques, dont près de 90 ont été jugés « importants » et 12 « extrêmement graves ». Cela représente trois fois plus d’attaques graves que l’année précédente.
Des entreprises britanniques tirent la sonnette d'alarme concernant la sécurité des données dans les LLM
Au Royaume-Uni, les entreprises doivent se conformer à des réglementations strictes visant à protéger les données personnelles et à empêcher leur utilisation abusive, telles que la loi britannique sur la protection des données et le règlement général sur la protection des données (RGPD) de l'UE.
Les entreprises qui enfreignent ces lois s'exposent à des poursuites judiciaires et à une atteinte à leur réputation ; elles revoient donc leurs stratégies en matière de gestion des licences. L'IA pourrait révéler des informations privées ou générer des résultats trompeurs sans une supervision humaine rigoureuse ni des instructions précises.
Au départ, les outils d'IA comme les chatbots fournissaient des réponses prédéfinies, tandis que les thermostats intelligents se contentaient de modifier la température en suivant des règles simples, sans réfléchir ni tirer de leçons de nouvelles données, d'actions précédentes ou des conséquences de leurs décisions. Aujourd'hui, les agents d'IA utilisent des modèles de langage pour apprendre des données, adapter leurs actions en fonction des nouvelles informations et résoudre différents problèmes en raisonnant comme un être humain.
Mais ce n'est qu'une infime partie d'un problème bien plus vaste : les utilisateurs peuvent également demander à l'agent de prendre en charge une tâche, qui la décomposera en activités plus simples, les traitera une par une, puis évaluera les résultats. De plus, certains agents peuvent collaborer pour gérer une tâche complexe : l'un travaille sur la tâche tandis que l'autre vérifie les résultats afin d'améliorer le résultat final.
Bien que cette croissance permette aux entreprises d'automatiser leurs opérations et de réduire le temps que les équipes humaines y consacreraient, elle représente également une menace. En effet, plus ces agents prennent de décisions de manière autonome, plus il nous est difficile de comprendre, de prévoir ou de contrôler pleinement leurs actions. De même, les conséquences de leurs erreurs peuvent croître de façon exponentielle, car ces agents d'IA agissent sans attendre d'intervention humaine.
Les entreprises adoptent prudemment les agents d'IA dans tous les départements
De nombreuses entreprises au Royaume-Uni utilisent des agents d'IA dans leurs opérations quotidiennes, avec des services comme le service client, les ressources humaines (RH) et le marketing qui testent progressivement ces outils et les surveillent de près.
Un bon exemple commercial est celui de Pets at Home, qui a créé un agent d'IA pour son personnel vétérinaire afin de fournir des réponses rapides et une assistance lors des examens des animaux de compagnie, démontrant ainsi à quel point les agents d'IA restent utiles pour des rôles mineurs dans des emplois réels.
Actuellement, la plupart des systèmes d'IA autonomes nécessitent l'intervention humaine pour les guider, vérifier leur travail et corriger leurs erreurs, car ils ne sont pas encore prêts à remplacer totalement les humains sans supervision. Cependant, l'avenir pourrait contraindre les entreprises à prendre des décisions difficiles leur permettant d'intégrer des agents d'IA à leurs systèmes tout en conservant le contrôle.
