Signal,dent des États-Unis, met en garde contre les risques liés à l'IA agentive

Ladent de Signal, Meredith Whittaker, a mis en garde le grand public contre les risques liés à l'intelligence artificielle (IA) agentive. Lors de la conférence SXSW à Austin, au Texas, elle a souligné que l'utilisation de l'IA agentive pouvait engendrer des risques pour la vie privée des utilisateurs.

D'après la déclaration, elle a évoqué la nécessité de disposer de moyens de communication sécurisés, soulignant que l'utilisation d'agents d'IA revient à « mettre son cerveau dans un bocal ». Elle a ajouté que cette nouvelle tendance, qui consiste pour les utilisateurs à laisser l'IA effectuer des tâches à leur place, pourrait engendrer des problèmes de confidentialité et de sécurité.

L'utilisation d'agents d'IA s'est généralisée dans le secteur des cryptomonnaies. Les acteurs de la finance décentralisée (DeFi) utilisent ces machines pour effectuer des tâches telles que l'exécution d'ordres, l'adaptation et même l'optimisation de stratégies, avec une intervention minimale, voire nulle, de leur part. Ces agents d'IA sont également intégrés aux plateformes pour faciliter, optimiser et accélérer les transactions. Toutefois, certains bots doivent être téléchargés avant que les utilisateurs puissent interagir avec un agent d'IA.

Ledent Signal met en garde contre les agents d'IA

D'après ladentde Signal, plusieurs plateformes commencent à commercialiser des agents d'IA comme un service à valeur ajoutée destiné à améliorer le quotidien des utilisateurs. Dans son discours, Whittaker a indiqué qu'en dehors du secteur des cryptomonnaies, ces agents prennent en charge diverses tâches en ligne. Par exemple, ils peuvent acheter des billets pour des événements, programmer des événements dans leur agenda et envoyer des messages à leurs amis.

« Donc on peut simplement mettre notre cerveau dans un bocal puisque le système s'en charge et qu'on n'a pas besoin d'y toucher, c'est ça ? » a demandé ledent de Signal.

Après avoir posé la question, elle s'est lancée dans une longue discussion sur les autorisations que les utilisateurs doivent accorder aux agents d'IA avant qu'ils puissent accomplir toutes ces tâches visant à simplifier leur quotidien. Whittaker a ajouté que cela inclura l'accès à notre navigateur web, notre calendrier, nos applications de messagerie et parfois même à notre carte bancaire, car l'IA doit payer les billets pour les événements qu'elle réserve pour nous.

« Il faudrait pouvoir piloter ce [processus] sur l'ensemble de notre système avec quelque chose qui ressemble à une autorisation racine, accédant à chacune de ces bases de données — probablement en clair, car il n'existe aucun modèle pour le faire de manière chiffrée », a ajouté Whittaker.

La déclaration de Whittaker appelle à la prudence dans le secteur de l'IA

Dans sa déclaration, Whittaker a indiqué que les agents d'IA ne fonctionnent pas de manière optimale seuls, car ils doivent être alimentés par des modèles d'IA. Elle a également abordé le lien entre ce processus et la sécurité, précisant que les informations sont envoyées à un serveur pour y être traitées avant d'être renvoyées.

« Il y a donc un problème profond de sécurité et de confidentialité qui plane sur cet engouement autour des agents, et qui menace en fin de compte de briser la barrière hémato-encéphalique entre la couche application et la couche système d'exploitation en combinant tous ces services distincts [et] en brouillant leurs données », a ajouté Whittaker.

Elle a également souligné que si Signal décidait d'intégrer des agents d'IA à son application, cela compromettrait la confidentialité des messages de ses utilisateurs. Elle a ajouté que l'agent aurait besoin d'accéder à l'application pour envoyer des messages et extraire des informations afin de les résumer.

Ses commentaires faisaient suite à sa participation à une table ronde sur la manière dont l' industrie de l'IA repose sur un modèle de surveillance, du fait de la collecte massive de données. Whittaker a également ajouté que, selon elle, la quantité de données collectées comporte des risques de conséquences néfastes.

Avec l'IA agentive, ladent de Signal a déclaré : « Nous allons encore davantage compromettre la vie privée et la sécurité à cause d'un "bot génie magique" qui va s'occuper des exigences de la vie », a-t-elle conclu.