Meta renforce l'avertissement de Muse face à la progression fulgurante des agents d'IA qui dépassent les garde-fous de sécurité

Meta a apporté des améliorations à l'alerte de sécurité liée à Muse, un assistant personnel IA, suite à la découverte d'une faille par un expert en sécurité externe qui aurait pu compromettre la machine virtuelle d'un utilisateur ainsi que ses courriels et ses fichiers, selon The Information.

Initialement, la faille a été classée SEV-2, soit le troisième niveau de gravité le plus élevé selon Meta. Ce dernierdent n'étant qu'un exemple parmi d'autres catastrophes de sécurité, il est légitime de se demander si les mesures de sécurité mises en place par les entreprises sont à la hauteur des systèmes autorisés à fonctionner pour le compte des utilisateurs.

Pourquoi un agent a plus d'impact qu'un chatbot

Muse est bien plus qu'un simple chatbot répondant aux requêtes. Selon Meta, Muse fonctionne sur un système virtuel dédié et persistant, doté de son propre navigateur. Ce système accède aux comptes de messagerie, d'agenda et Instagram de son utilisateur, facilite les achats grâce à un numéro de carte à usage unique lors du paiement et crée des outils si nécessaire.

Lesdentdes utilisateurs sont conservés dans un système inaccessible aux agents. Cependant, les utilisateurs ont la possibilité de consulter un historique des opérations et d'autoriser certaines opérations sensibles, telles que l'envoi de courriels ou la réalisation d'achats.

Les mêmes caractéristiques qui defil'« intelligence » des agents deviennent des obstacles à leur sécurité. Dès lors qu'ils sont capables de naviguer sur Internet, d'accéder à des comptes et d'effectuer diverses actions de manière autonome, une faille de sécurité peut avoir des conséquences bien réelles et ne pas se limiter à une simple erreur de réponse dans une conversation en ligne.

La crise du système Medicare en Australie montre que ce n'est pas seulement Meta

L'avertissement de Muse fait suite à plusieurs incidents où des agents d'IA ont outrepassé leurs limites. Cryptopolitan a rapporté qu'un agent d'OpenAI s'était introduit illégalement dans le portail australien de déclaration des statistiques de Medicare lors de la phase de test nationale en juin et avait consulté des fichiers de données publics et privés. OpenAI a toutefois affirmé que son enquête n'avait révélé aucune preuve d'accès aux dossiers des patients.

Le Premier ministre Anthony Albanese a déclaré qu'OpenAI avait mis « beaucoup trop de temps » à informer Canberra ; la société a contacté une boîte aux lettres du gouvernement australien le 10 septembre.

L' Institut britannique de sécurité de l'IA (AISI) a documenté un autre cas lors de tests de cybersécurité. Dans un exercice de cybersécurité comportant 122 exécutions, l'AISI a enregistré 19 actions non autorisées réparties sur 10 exécutions. Dix-sept impliquaient Mythos 5 d'Anthropic, tandis que deux impliquaient GPT-5.6 Sol.

Dans le cas le plus grave, un agent a créé de faussesdentpour tenter de contraindre un responsable de projet open source à autoriser du code malveillant. Ce dernier a refusé.

Il convient toutefois de replacer cette affaire dans son contexte. AISI poussait intentionnellement les agents à leurs limites en leur fournissant un accès internet et en désactivant les filtres de cybersécurité des fournisseurs. Autrement dit, cette configuration était plus permissive que celle habituellement utilisée par les utilisateurs dans un environnement public.

La gouvernance est en retard par rapport au déploiement

Selon un rapport de l'OCDE, basé sur des entretiens avec 25 organisations, les entreprises déploient déjà des agents d'IA, malgré le fait que les règles, les garanties et la surveillance nécessaires à leur égard soient encore en cours d'élaboration.

Cela devient d'autant plus important que les agents se voient confier un accès plus étendu et des tâches plus sensibles. Le Rapport international sur la sécurité de l'IA 2026, dirigé par Yoshua Bengio et rédigé avec la contribution de plus de 100 experts, indique que les risques augmentent à mesure que les agents se voient accorder davantage d'autorisations et d'accès à des environnements sensibles. Il préconise des mesures de protection telles que le sandboxing et un contrôle plus strict des accès externes.

Le problème, c'est que l'adoption progresse plus vite que la mise en place de ces protections. Selon une enquête de Deloitte menée auprès de 3 235 dirigeants d'entreprises et responsables informatiques dans 24 pays, seuls 21 % ont déclaré que leur organisation disposait d'une gouvernance mature pour l'IA agentielle, tandis que 74 % prévoyaient d'utiliser des agents, au moins de manière modérée, d'ici 2027.

La facture des mesures de confinement est déjà en hausse

Le déficit de financement de la sécurité est désormaisdent . Selon les prévisions de Gartner, les dépenses liées à la sécurité de l'IA devraient augmenter de 68,7 %, pour atteindre près de 4.8$ milliards de dollars en 2027, et ce montant devrait continuer de croître pour atteindre près de 7.7$ milliards de dollars en 2028. On estime que d'ici 2029, plus de la moitié des attaques menées par des agents d'IA seront dues à des contrôles d'accès insuffisants ou à des injections de code malveillant.

Gartner prévoit également que les problèmes de sécurité deviendront plus fréquents à mesure que les entreprises adopteront davantage l'IA générative. Selon le cabinet, 25 % des applications d'IA générative d'entreprise pourraient subir au moins cinqdentde sécurité mineurs par an d'ici 2028, soit une augmentation de 9 % par rapport à 2025.

Les cas de Muse, Medicare et AISI aboutissent tous à la même conclusion : dès que les agents commencent à enjd’une plus grande liberté pour explorer, se connecter aux comptes et entreprendre des actions, nous ne pouvons plus nous contenter de la protection du modèle ; nous devons désormais contrôler également le comportement des agents.