La présidente de Signal met en garde contre les risques de l'IA agentique

Meredith Whittaker, présidente de Signal, a mis en garde le grand public contre les risques associés à l'intelligence artificielle (IA) agentique. S'exprimant lors de la conférence SXSW à Austin, au Texas, elle a mentionné que l'utilisation de l'IA agentique pourrait présenter un risque pour la vie privée des utilisateurs.

Selon la déclaration de Whittaker , elle a mentionné la nécessité de formes de communication sécurisées, notant que l'utilisation d'agents d'IA est la même chose que « mettre son cerveau dans un pot ». Elle a ajouté que la nouvelle tendance où les utilisateurs autorisent l'IA à effectuer des tâches en leur nom pourrait poser des problèmes en matière de confidentialité et de sécurité.

L'utilisation d'agents IA s'est généralisée dans l'industrie des cryptomonnaies, les utilisateurs du secteur de la finance décentralisée (DeFi) utilisant ces machines pour exécuter des tâches telles que l'exécution de trades, l'adaptation et même l'optimisation des stratégies avec peu ou pas d'intervention des utilisateurs. Ces agents IA sont également intégrés dans des plateformes pour aider les utilisateurs à trader plus facilement, plus intelligemment et plus rapidement. Cependant, certains bots sont téléchargés avant que les utilisateurs ne puissent interagir avec un agent IA.

La présidente de Signal met en garde contre les agents IA

Selon la présidente de Signal, diverses plateformes commencent à commercialiser les agents IA en tant que service à valeur ajoutée pour améliorer la vie des utilisateurs. Dans son discours, Whittaker a mentionné qu'en dehors de leur utilisation dans le secteur des cryptos, ces agents effectuent diverses tâches en ligne pour les utilisateurs. Par exemple, les agents IA peuvent acheter des billets pour des événements, planifier des événements sur le calendrier et envoyer des messages à des amis.

« Donc, nous pouvons simplement mettre notre cerveau dans un bocal parce que la chose fait cela et que nous n'avons pas à y toucher, n'est-ce pas ? » a demandé la présidente de Signal.

Après avoir posé cette question, elle s'est engagée dans une longue discussion sur les autorisations que les utilisateurs doivent accorder aux agents IA avant qu'ils ne puissent effectuer toutes ces tâches pour rendre la vie des utilisateurs plus efficace. Whittaker a ajouté que cela inclurait l'accès à notre navigateur web, à notre calendrier, à nos applications de messagerie et parfois à notre carte de crédit, car l'agent doit payer pour les billets des événements qu'il réserve pour nous.

« Il devrait être capable de piloter ce [processus] sur l'ensemble de notre système avec quelque chose qui ressemble à des autorisations root, accédant à chacune de ces bases de données — probablement en clair, car il n'existe pas de modèle pour le faire de manière chiffrée », a ajouté Whittaker.

La déclaration de Whittaker appelle à la prudence dans l'industrie de l'IA

Dans sa déclaration, Whittaker a mentionné que les agents IA ne fonctionnent pas suffisamment seuls car ils doivent être alimentés par des modèles d'IA. Elle a également discuté de la relation entre le processus et la sécurité, notant que les informations sont envoyées à un serveur pour être traitées avant d'être renvoyées.

« Il y a donc un problème profond de sécurité et de vie privée qui hante cette surenchère autour des agents, et qui menace ultimement de briser la barrière hémato-encéphalique entre la couche application et la couche système d'exploitation en conjuguant tous ces services séparés [et] en brouillant leurs données », a ajouté Whittaker.

Elle a également noté que si Signal décidait d'intégrer des agents IA dans son application, cela nuirait à la confidentialité des messages de ses utilisateurs. Elle a ajouté que l'agent doit accéder à l'application pour envoyer des textos à d'autres personnes et également extraire des informations pour résumer le texte.

Ses commentaires sont intervenus après qu'elle a participé à un panel discutant de la façon dont l'industrie de l'IA est construite sur un mode de surveillance en raison de la manière dont ils collectent des données massives. Whittaker a également ajouté qu'elle estime que plus les données collectées ont des conséquences potentielles qu'elle ne pensait pas être bonnes.

Avec l'IA agentique, la présidente de Signal a mentionné que « nous affaiblirons davantage la confidentialité et la sécurité en raison d'un « bot génie magique qui s'occupera des exigences de la vie », a-t-elle conclu.