Microsoft dévoile de nouvelles fonctionnalités de sécurité Azure AI pour se protéger contre les hallucinations de l’IA

Microsoft a déployé un kit de fonctionnalités avancées pour renforcer la sécurité de la plateforme Azure AI. Sarah Bind, directrice principale des produits de l'Initiative IA Sentient de Microsoft, lancera une série d'outils conçus avec soin pour répondre aux risques liés à l'utilisation d'applications alimentées par l'IA. 

Au stade de l'aperçu, les nouvelles précautions de sécurité protégeront Azure IA contre les menaces, fourniront des réponses sécurisées et protégeront contre les injections de invites malveillantes promotionnelles et cachées, sans nécessiter de équipes rouges spécifiques.

Les outils avancés de sécurité IA d'Azure

Aborder ces préoccupations est primordial pour intégrer efficacement la technologie IA dans le secteur public, car il est crucial d'atténuer les risques imprévus et les inquiétudes qui pourraient entraver sa mise en œuvre et son succès à long terme.

Des outils tels que Prompt Shields, Groundedness Detection et une évaluation détaillée des vulnérabilités pour aider à dépister les vulnérabilités du modèle ont également été dévoilés. 

Prompt Shields offre une passerelle qui bloque les injections de invites malveillantes et protège les utilisateurs contre le risque d'utiliser l'IA contre le monde numérique via des modèles IA, en interdisant l'utilisation de langage interdit ou de invites covertes, car elles pourraient conduire à l'exploitation des entrées utilisateur et des données tierces. 

Cela devient particulièrement important, surtout pour éviter la production de matériel faux ou inexact concernant les événements historiques, un défi rencontré par les modèles alimentés par l'IA.

Sécurité IA et atténuation des hallucinations dans l'écosystème d'Azure

L'atténuation des hallucinations textuelles, une autre partie essentielle du kit de sécurité de Microsoft, est axée sur une série d'hallucinations et de neutralisation. Réaliser cela crée un environnement où non seulement toute idée n'est pas acceptable ; seules celles soutenues par des preuves et vérifiables sont les entrées les plus appropriées pour les systèmes IA. 

De plus, les évaluations de sécurité permettront une surveillance approfondie des vulnérabilités des modèles afin que ces faiblesses puissent être identifiées immédiatement et que les mesures de sécurité puissent être ajustées en conséquence. Compte tenu de cela, Microsoft est prêt à répondre aux besoins individuels des clients et à fournir des mesures de sécurité IA adéquates. 

Les clients d'Azure peuvent personnaliser leurs paramètres en incluant ou en excluant du contenu biaisé par le genre, des discours de haine et d'autres contenus dégradants qui correspondent à leurs besoins spécifiques. 

De même, cette mise à niveau future sera également utile aux administrateurs pour déterminer si un utilisateur est un vrai testeur ou un utilisateur malveillant, en fournissant une fonctionnalité de signalement.

L'approche pionnière de Microsoft pour un développement IA sécurisé et éthique

L'importance de ces mesures de sécurité couvre non seulement les avantages immédiats de la sécurité, mais aussi le fait que l'industrie des technologies de l'information adopte une approche holistique du développement de l'IA, socialement responsable. L'intégration de ces outils, tels que Llama, dans des versions de pointe comme GPT-4 et Llama 2 signifierait qu'une longue liste d'applications IA sur Azure AI dépendrait de mesures de contrôle de la fraude et des erreurs plus strictes. 

Cependant, le fait que les modèles open-source moins populaires puissent nécessiter que l'utilisateur intègre manuellement les outils de sécurité dans le système principal est une remarque secondaire. Ces fonctionnalités de mise en application sont reconnues comme faisant partie de la stratégie globale de Microsoft pour créer un environnement IA sécurisé et éthique. Les clients d'Azure AI (par exemple, KPMG, AT&T, Reddit) constituent des acteurs majeurs qui visent à mettre en œuvre des avancées dans divers domaines. 

Ainsi, leur impact devrait être large. De plus, Microsoft, grâce au partenariat avec OpenAI et au lancement du service Azure OpenAI, fait preuve qu'il est le principal acteur dans le domaine de l'IA, offrant aux développeurs et aux organisations les outils nécessaires pour atteindre la compétence dans les applications IA.

La dernière fonctionnalité de sécurité automatique de Microsoft est indiquée comme une réponse aux grands risques produits par les discours des technologies d'intelligence artificielle. En explorant les moyens de protéger l'IA contre les menaces de sécurité et de rendre les sorties en direct des outils IA précises, Microsoft définit ainsi un nouveau code de sécurité IA. Ils améliorent la sécurité, l'intégrité et la fiabilité des solutions IA et aident le discours sur l'utilisation responsable de l'IA à évoluer.

Plus l'intelligence artificielle se développe, plus la nécessité d'une supervision sûre augmente inévitablement. Avec ces nouvelles technologies de sécurité, Microsoft repousse considérablement les limites vers un paradigme IA véritablement sécurisé et éthique. Avec ces garde-fous, les clients d'Azure IA peuvent être confiants qu'ils peuvent intégrer des machines automatiques dans leurs opérations avec une pleine compréhension de tous les risques que l'intelligence artificielle implique.

Histoire originale de https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps