Un tiers des entreprises britanniques citent la sécurité des données comme une préoccupation majeure dans l’adoption des LLM

Une entreprise sur trois au Royaume-Uni s’inquiète de la sécurité de ses données lors de l’utilisation de grands modèles de langage (LLM) car ils sont passés d’assistants répondant à des commandes ou des questions à des systèmes autonomes agissant sans intervention humaine constante.

Par conséquent, ces organisations hésitent à intégrer pleinement Agents IA dans leurs systèmes opérationnels car elles craignent de perdre le contrôle de leurs données et de leur sécurité au profit de machines capables de « penser par elles-mêmes ».

Le gouvernement britannique prend des mesures pour relever ces défis. Le ministre du Cabinet Office, Pat McFadden, a annoncé la déclassification d’une évaluation du renseignement indiquant que l’IA intensifiera les cybermenaces dans les années à venir.

En 2024, le NCSC a reçu près de 2 000 rapports d’attaques informatiques, dont près de 90 ont été jugés « significatifs » et 12 se situaient « au tout sommet de la gravité ». Il s’agissait du triple du nombre d’attaques graves par rapport à l’année précédente.

Les entreprises britanniques émettent des réserves sur la sécurité des données dans les LLM

Les entreprises du Royaume-Uni doivent se conformer à des réglementations strictes qui protègent les données des personnes et empêchent leur mauvaise utilisation, telles que la Data Protection Act et le Règlement général sur la protection des données (RGPD) de l’UE.

Les entreprises qui enfreignent ces lois risquent des poursuites judiciaires et des dommages à leur réputation, elles repensent donc leurs stratégies LLM. L’IA pourrait révéler des informations privées ou générer des résultats trompeurs sans une supervision humaine attentive ou des invites précises. 

Initialement, les outils d’IA comme les chatbots fournissaient des réponses fixes, tandis que les thermostats intelligents changeaient simplement la température en suivant des règles simples, sans réfléchir ni apprendre à partir de nouvelles données, d’actions précédentes ou des résultats de leurs décisions. Cependant, les Agents IA utilisent aujourd’hui des LLM pour apprendre à partir de données, modifier leurs actions en fonction de nouvelles informations et résoudre différents problèmes en raisonnant comme un être humain. 

Mais ce n’est qu’une fraction d’une préoccupation beaucoup plus large, car les gens peuvent également inviter l’agent à gérer une tâche, et il la décomposera en activités plus petites, traitera chacune individuellement, puis évaluera les résultats. De plus, certains agents peuvent collaborer pour gérer une tâche complexe, l’un travaillant sur le travail pendant que l’autre vérifie les résultats pour améliorer le résultat. 

Même si cette croissance aide les entreprises à automatiser leurs opérations et réduit le temps que les équipes humaines auraient utilisé, c’est aussi une menace car plus ces agents prennent de décisions par eux-mêmes, plus il devient difficile pour nous de comprendre, prédire ou contrôler pleinement ce qu’ils font. De même, les conséquences de leurs erreurs peuvent croître de manière exponentielle car ces Agents IA agissent sans s’arrêter pour demander une entrée humaine. 

Les entreprises adoptent les agents IA avec prudence dans tous les départements

De nombreuses entreprises au Royaume-Uni utilisent des agents IA dans leurs opérations quotidiennes, avec des départements comme le service client, les ressources humaines (RH) et le marketing testant les outils lentement et les surveillant attentivement.

Un bon exemple d’entreprise est Pets at Home, qui a construit un agent IA pour son personnel vétérinaire afin de fournir des réponses rapides et un soutien lors des examens des animaux, montrant à quel point les agents IA restent utiles pour de petits rôles dans des emplois réels. 

Actuellement, la plupart des systèmes d’IA agentic ont besoin de personnes pour les guider, vérifier leur travail et corriger les erreurs car ils ne sont pas prêts à remplacer complètement les humains sans supervision. Cependant, l’avenir pourrait obliger les entreprises à prendre des décisions difficiles qui leur permettront d’intégrer des agents IA dans les systèmes, tout en gardant le contrôle.