AWS étend ses options d'accessibilité et de contrôle

Selon la dernière annonce, Amazon Web Services (AWS), le service de création d'applications d'IA générative d' Amazon, met certains de ses outils à la disposition du grand public en matière d'accessibilité.

Les fonctionnalités conçues pour servir de garde-fous à l'IA comprennent un outil d'évaluation des modèles et de nouveaux modèles de langage à grande échelle (LLM).

La fonctionnalité d'Amazon, Guardrails for AI (GFA), présentée l'année dernière et mise à disposition en avant-première il y a un an, a été présentée. Cet ensemble de garde-fous pour Amazon Bedrock, agissant comme un assistant dans l'environnement Bedrock, permet de masquer environ 85 % des informations nuisibles, selon l'entreprise. Il peut être utilisé sur les modèles optimisés, les agents d'IA et tous les LLM de la bibliothèque Bedrock.

Des mesures de protection sur mesure

Parmi les différents LPML, on trouve Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic et Cohere Command. Les organisations peuvent utiliser l'assistant Guardrails pour concevoir des mesures de protection sur mesure, conformes à leur politique d'entreprise, puis les mettre en œuvre.

La prochaine fonctionnalité à être lancée est Guardrails pour Amazon Bedrock, un logiciel qui permettra de masquer les informations personnelles identifiables. Bien que cela ne soit pas encore confirmé, il est possible que ce logiciel permette de dissimuler des informations personnelles telles que les adresses électroniques et les numéros de téléphone dans les réponses aux demandes de renseignements.

De plus, Guardrails pour Amazon Bedrock est capable d'intégrer Amazon CloudWatch ; ainsi, les entreprises peuvent être alertées en cas d'entrée ou de réponse d'un modèle qui enfreint les politiques defidans les garde-fous.

Pour prouver la pertinence d'IBM et de ses concurrents dans ce secteur, AWS tente de rattraper son retard. Cependant, ce problème n'est pas propre à AWS : d'autres fournisseurs de solutions, comme IBM, Google Cloud, Nvidia et Microsoft, proposent des fonctionnalités similaires permettant aux entreprises de maîtriser les biais.

Répondre aux besoins des entreprises

Alors que M. Icahn affirmait qu'IBM faisait partie des fournisseurs de modèles existants à la traîne, il n'a pas manqué de mentionner le monopole d'IBM dans le développement de l'IA de sécurité, ayant travaillé sur son assistant IA Watson pendant plus d'une décennie, ainsi que sur d'autres fournisseurs d'IA.

« Bien que l'initiative d'IBM se soit soldée par un échec, l'entreprise a pris une longueur d'avance dans la conception de garde-fous pour l'IA. AWS étant encore à ses balbutiements en matière de garde-fous pour l'IA, sa rareté lui confère probablement un avantage certain, car nous sommes encore au tout début de l'IA générative et des LLM », a déclaré Park.

Parallèlement à ces changements, AWS introduit également une nouvelle fonctionnalité permettant d'importer les modèles du client, ce qui réduira les coûts opérationnels et accélérera le développement des applications.

Sherry Marcus, directrice des sciences appliquées chez AWS, s'interroge sur l'existence d'un ajout général de capacités de la part du fournisseur de services cloud qui répond à la demande des entreprises, sur la question de savoir si certaines entreprises développent déjà leurs propres modèles ou peaufinent des modèles disponibles publiquement, et si certaines d'entre elles utilisent des outils d'évaluation de modèles via la plateforme Bedrock.