Microsoft renforce la sécurité de ses chatbots IA pour contrer les escrocs

Microsoft a ajouté plusieurs fonctionnalités de sécurité à Azure AI Studio qui devraient, à terme, réduire la probabilité que les utilisateurs configurent leurs modèles d'IA de manière à ce qu'ils se comportent anormalement ou de façon inappropriée. L'entreprise technologique multinationale basée à Redmond, dans l'État de Washington, a détaillé ces améliorations dans un article de blog, insistant sur la nécessité de garantir l'intégrité des interactions avec l'IA et de renforcer la confiance des utilisateurs.

Boucliers rapides et plus encore 

Parmi les principales évolutions figure la création de « boucliers anti-prompt », une technologie conçue pour détecter et neutraliser les injections de prompt lors des conversations avec les chatbots d'IA. Il s'agit de ce que l'on appelle des « jailbreaks », c'est-à-dire des entrées fournies intentionnellement par les utilisateurs de manière à provoquer une réponse indésirable de la part des modèles d'IA.

Par exemple, Microsoft contribue indirectement à la lutte contre ces menaces grâce aux injections de code, qui permettent l'exécution d'ordres malveillants. Un tel scénario peut entraîner de graves conséquences en matière de sécurité, comme le vol de données et le détournement de systèmes. Selon Sarah Bird, directrice des produits pour l'IA responsable chez Microsoft, ces mécanismes sont essentiels pour détecter et contrer ces menaces inédites en temps réel.

Microsoft ajoute que des alertes s'afficheront bientôt à l'écran pour signaler les modèles susceptibles de diffuser des informations fausses ou trompeuses, garantissant ainsi une meilleure convivialité et une plus grande confiance.

Instaurer la confiance dans les outils d'IA 

L'initiative de Microsoft s'inscrit dans un projet plus vaste visant à renforcer la confiance du public dans l'intelligence artificielle générative (IAG), de plus en plus populaire et largement utilisée dans les services destinés aux particuliers et aux entreprises. Après avoir constaté des cas où des utilisateurs pouvaient manipuler le chatbot Copilot pour produire des réponses étranges, voire malveillantes, Microsoft a mené une enquête approfondie. Cette enquête met en évidence la nécessité de défensestroncontre ces tactiques de manipulation, susceptibles de se multiplier avec l'essor des technologies d'IA et la popularisation de l'information. Anticiper et atténuer les risques repose sur la reconnaissance des schémas d'attaque, comme par exemple la répétition de questions ou d'incitations lors de jeux de rôle.

En tant que principal investisseur et partenaire stratégique d'OpenAI, Microsoft repousse les limites de l'intégration et de la création de technologies d'IA générative responsables et sûres. Les deux entités s'engagent pour un déploiement responsable et des modèles fondamentaux d'IA générative garantissant la sécurité. Cependant, Bird a reconnu que ces grands modèles de langage, bien qu'ils soient de plus en plus considérés comme un socle pour une grande partie des innovations futures en IA, ne sont pas à l'abri de la manipulation.

Pour bâtir sur ces fondements, il faudra bien plus que de s'appuyer uniquement sur les modèles ; une approche globale de la sûreté et de la sécurité de l'IA sera nécessaire.

Microsoft a récemment annoncé le renforcement des mesures de sécurité de son Azure AI Studio afin de démontrer et de garantir les mesures proactives prises pour se prémunir contre l'évolution des menaces liées à l'IA.

Elle vise à éviter les utilisations abusives de l'IA et à préserver l'intégrité et la fiabilité des interactions avec l'IA en intégrant des écrans et des alertes opportuns.

Avec l'évolution constante de la technologie de l'IA et son adoption dans de nombreux aspects de la vie quotidienne, il est grand temps pour Microsoft et le reste de la communauté de l'IA de maintenir une position de sécurité très vigilante.