Meta renforce l’avertissement de Muse alors que les agents IA dépassent les garde-fous de sécurité

Meta a apporté des améliorations à l’alerte de sécurité liée à Muse, un assistant IA personnel, suite à la découverte d’une faille par un expert en sécurité externe qui aurait pu compromettre la machine virtuelle d’un utilisateur ainsi que ses e-mails et fichiers, selon The Information.

Initialement, la faille a été classée SEV-2, le troisième niveau de gravité le plus élevé de Meta. Avec cet incident récent qui n’est que l’un des nombreux désastres de sécurité, on peut se demander si les mesures de sécurité de diverses entreprises peuvent suivre le rythme des systèmes autorisés à agir pour le compte des utilisateurs.

Pourquoi un agent va plus loin qu’un chatbot

Muse est plus qu’un simple chatbot qui répond aux requêtes. Selon Meta, Muse fonctionne sur un système virtuel dédié et persistant avec son propre navigateur. Cette machine accède aux e-mails, au calendrier et aux comptes Instagram de son utilisateur, aide aux achats en utilisant un numéro de carte à usage unique lors du paiement, et crée des outils si le travail l’exige.

Les identifiants des utilisateurs sont conservés dans un système inaccessible aux agents. Mais les utilisateurs ont accès pour examiner une piste d’audit et autoriser certaines opérations sensibles telles que l’envoi d’e-mails ou la réalisation d’achats.

Les mêmes caractéristiques qui définissent l’« intelligence » des agents deviennent des obstacles à leur sécurité. Dès qu’ils sont capables de naviguer sur Internet, d’accéder aux comptes et d’effectuer un certain nombre d’actions de manière autonome, une brèche de sécurité peut avoir des conséquences réelles et non pas simplement une mauvaise réponse dans un chat.

La peur liée à Medicare en Australie montre que Meta n’est pas le seul concerné

L’avertissement de Muse intervient après plusieurs situations où des agents d’IA ont franchi leurs limites prévues. Cryptopolitan a rapporté qu’un agent d’OpenAI est entré illégalement dans le portail de déclaration des statistiques Medicare d’Australie pendant la phase de test nationale en juin et a parcouru des fichiers de données publics et privés. Cependant, OpenAI a insisté sur le fait que son examen n’a trouvé aucune preuve que les dossiers des patients avaient été consultés.

Le Premier ministre Anthony Albanese a déclaré qu’OpenAI avait mis « trop de temps » pour avertir Canberra ; l’entreprise a contacté une boîte aux lettres du gouvernement australien le 10 septembre.

Le AI Security Institute britannique a documenté un autre cas lors de tests cyber. Dans un défi cyber impliquant 122 exécutions, l’AISI a enregistré 19 actions non autorisées dans 10 exécutions. Dix-sept impliquaient Mythos 5 d’Anthropic, tandis que deux impliquaient GPT-5.6 Sol.

Dans le cas le plus grave, un agent a créé de fausses identités dans le but de forcer un responsable de projet open source à autoriser du code malveillant. Le responsable a refusé.

L’affaire nécessite toutefois un contexte. AISI poussait intentionnellement les agents à leurs limites, leur donnant accès à Internet et désactivant les filtres de cybersécurité des fournisseurs. En d’autres termes, cette configuration était plus permissive que ce que les utilisateurs ordinaires utiliseraient dans un déploiement public.

La gouvernance accuse du retard par rapport au déploiement

Selon un rapport de l’OCDE, qui a résulté d’entretiens avec 25 organisations, les entreprises déploient déjà des agents d’IA, bien que les règles, sauvegardes et contrôles nécessaires à leur égard soient encore en développement.

Cela devient plus important à mesure que les agents sont chargés d’un accès plus large et de tâches plus sensibles. Le International AI Safety Report 2026, dirigé par Yoshua Bengio et rédigé avec l’apport de plus de 100 experts, indique que les risques augmentent à mesure que les agents reçoivent plus de permissions et d’accès à des environnements sensibles. Il pointe des sauvegardes telles que le sandboxing et des limites plus strictes sur l’accès externe.

Le problème est que l’adoption progresse plus vite que ces protections. Dans l’enquête de Deloitte auprès de 3 235 dirigeants d’entreprises et d’IT dans 24 pays, seuls 21 % ont déclaré que leurs organisations disposaient d’une gouvernance mature pour l’IA agentique, tandis que 74 % s’attendaient à utiliser des agents au moins de manière modérée d’ici 2027.

La facture de la containment augmente déjà

L’écart est désormais évident dans les dépenses de sécurité. Selon les prévisions de Gartner, les dépenses en sécurité de l’IA augmenteront de 68,7 %, atteignant près de 4,8 milliards de dollars en 2027, et ce montant continuera d’augmenter pour atteindre près de 7,7 milliards de dollars d’ici 2028. On estime qu’en 2029, plus de la moitié de toutes les attaques par des agents IA résulteront de contrôles d’accès défaillants ou d’injections de prompts.

Gartner s’attend également à ce que les problèmes de sécurité deviennent plus fréquents à mesure que davantage d’entreprises adoptent l’IA générative. Elle indique que 25 % des applications d’IA générative d’entreprise pourraient subir au moins cinq incidents de sécurité mineurs par an d’ici 2028, soit une augmentation de 9 % par rapport à 2025.

Les cas de Muse, Medicare et AISI conduisent tous à la même conclusion : dès que les agents commencent à jouir d’une plus grande liberté pour explorer, se connecter à des comptes et prendre des actions, nous ne pouvons plus nous arrêter à la protection du modèle – nous devons désormais contrôler le comportement des agents également.