Microsoft dévoile de nouvelles fonctionnalités de sécurité pour Azure AI afin de se protéger contre les hallucinations de l'IA

Microsoft a déployé un ensemble de fonctionnalités avancées pour renforcer la sécurité de la plateforme Azure AI. Sarah Bind, responsable produit principale de l'initiative Microsoft Sentient AI, lancera une série d'outils conçus spécifiquement pour atténuer les risques liés à l'utilisation d'applications basées sur l'IA. 

Dans la phase de prévisualisation, les nouvelles mesures de sécurité protégeront Azure AI contre les menaces, fourniront des réponses sécurisées et protégeront contre la promotion et l'injection de messages malveillants cachés sans nécessiter d'équipes rouges spécifiques.

Les outils de sécurité avancés de l'IA de Microsoft Azure

Il est primordial de répondre à ces préoccupations pour intégrer efficacement la technologie de l'IA dans le secteur public, car il est crucial d'atténuer les risques et les inquiétudes imprévus qui pourraient entraver sa mise en œuvre et son succès à long terme.

Des outils comme Prompt Shields, Groundedness Detection et une évaluation approfondie des vulnérabilités, destinés à aider à détecter les vulnérabilités du modèle, ont également été dévoilés. 

Les Prompt Shields constituent une passerelle qui bloque l'injection d'invites malveillantes et protège les utilisateurs contre le risque d'utiliser l'IA contre le monde numérique via des modèles d'IA en interdisant l'utilisation d'un langage interdit/d'invites cachées, car elles pourraient conduire à l'exploitation des entrées de l'utilisateur et des données de tiers. 

Cela devient particulièrement important pour éviter la production de documents falsifiés ou inexacts sur les événements historiques, un défi rencontré dans les modèles basés sur l'IA.

Sécurité de l'IA et atténuation des hallucinations dans l'écosystème Azure

La fonction d'atténuation des hallucinations textuelles, autre composante essentielle de la boîte à outils de sécurité de Microsoft, vise à neutraliser diverses hallucinations. Son application permet de créer un environnement où seules les idées étayées par des preuves et vérifiables sont acceptables et constituent les entrées les plus pertinentes pour les systèmes d'IA. 

De plus, les évaluations de sécurité permettront une surveillance approfondie des vulnérabilités des modèles afin que ces faiblesses puissent être immédiatementdentet que les mesures de sécurité puissent être ajustées en conséquence. Dans cette optique, Microsoft est prêt à répondre aux besoins individuels de ses clients et à mettre en œuvre des mesures de sécurité adéquates pour l'IA. 

Les clients d'Azure peuvent personnaliser leurs paramètres en incluant ou en excluant les contenus sexistes, les discours haineux et autres contenus dégradants qui correspondent à leurs besoins spécifiques. 

De même, une telle mise à jour future sera également utile aux administrateurs pour déterminer si un utilisateur est un véritable testeur ou un utilisateur malveillant, grâce à une fonction de signalement.

L'approche novatrice de Microsoft en matière de développement sécurisé et éthique de l'IA

L'importance de ces mesures de sécurité réside non seulement dans les avantages immédiats qu'elles offrent en matière de sécurité, mais aussi dans le fait que le secteur des technologies de l'information adopte une approche holistique du développement de l'IA, socialement responsable. L'intégration d'outils tels que Llama dans des versions de pointe comme GPT-4 et Llama 2 impliquerait qu'un grand nombre d'applications d'IA sur Azure AI seraient tributaires de mesures renforcées de contrôle des fraudes et des erreurs. 

Toutefois, le fait que les modèles open source moins répandus puissent exiger de l'utilisateur une intégration manuelle des outils de sécurité au système principal est un point à noter. Ces mesures de sécurité font partie intégrante de la stratégie globale de Microsoft visant à créer un environnement d'IA sécurisé et éthique. Les clients d'Azure AI (par exemple, KPMG, AT&T, Reddit) constituent des acteurs majeurs qui ambitionnent de déployer des avancées dans divers domaines. 

Leur impact devrait donc être considérable. De plus, Microsoft, grâce à son partenariat avec OpenAI et au lancement du service Azure OpenAI, démontre sa position de leader dans le domaine de l'IA, en fournissant aux développeurs et aux organisations les outils nécessaires pour maîtriser les applications d'IA.

La dernière fonctionnalité de sécurité automatique de Microsoft est présentée comme une réponse aux risques importants liés à l'utilisation des technologies d'intelligence artificielle. En explorant les moyens de protéger l'IA contre les menaces de sécurité et en garantissant la précision des résultats en temps réel des outils d'IA, Microsoft defiainsi un nouveau référentiel de sécurité pour l'IA. L'entreprise améliore la sécurité, l'intégrité et la fiabilité des solutions d'IA et contribue à l'évolution d'une utilisation responsable de l'IA.

Plus l'intelligence artificielle se développe, plus la nécessité d'une supervision rigoureuse s'accroît. Grâce à ces nouvelles technologies de sécurité, Microsoft place la barre très haut pour un modèle d'IA véritablement sécurisé et éthique. Ces protections permettent aux clients Azure d'intégrer l'IA à leurs opérationsdent , en ayant une parfaite compréhension des risques potentiels liés à l'intelligence artificielle.

Article original tiré de https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps