AWS amplia opções de acessibilidade e controle

Segundo o último anúncio, a Amazon Web Services (AWS), serviço da Amazon, está disponibilizando algumas de suas ferramentas para o público em geral, visando a acessibilidade.

As funcionalidades concebidas para servirem de diretrizes para a IA incluem uma ferramenta de avaliação de modelos e novos modelos linguísticos de grande escala (LLMs).

Foi apresentada a funcionalidade Guardrails for AI (GFA) da Amazon, sistema mostrado no ano passado e lançado como prévia há um ano. O conjunto de proteções para o Amazon Bedrock, que funciona como um assistente no Bedrock, pode filtrar cerca de 85% das informações prejudiciais, segundo a empresa; ele pode ser usado em modelos otimizados, agentes de IA e todos os LLMs (Modelos de Aprendizado de Máquina) da biblioteca Bedrock.

Salvaguardas personalizadas

Entre as diversas LPMLs (Linguagens de Múltipla Camada de Proficiência Linguística), encontram-se Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic e Cohere Command. As organizações podem usar o assistente Guardrails para criar salvaguardas personalizadas de acordo com a política da empresa e, em seguida, implementá-las.

O próximo lançamento é o Guardrails para Amazon Bedrock, um software que permitirá a redação de informações pessoais identificáveis ​​(PII). Ainda não está claro, mas, com esse software, informações pessoais como e-mail e números de telefone poderão ser ocultadas das respostas do LLM.

Além disso, o Guardrails para Amazon Bedrock é capaz de incorporar o Amazon CloudWatch; assim, as empresas podem ser alertadas sobre uma entrada ou resposta de um modelo que viole as políticas defino Guardrails.

Para provar que a IBM e seus concorrentes nesse mercado são adequados, a AWS está tentando recuperar o atraso. No entanto, esse problema não é exclusivo da AWS, e outros provedores do mesmo modelo, como IBM, Google Cloud, Nvidia e Microsoft, também oferecem recursos semelhantes que auxiliam as empresas a controlar esse viés.

Atender às demandas empresariais

Embora o Sr. Icahn afirmasse que a IBM se encaixa na categoria de retardatária entre os diferentes fornecedores de modelos existentes, ele não deixou de mencionar o monopólio da IBM no desenvolvimento de mecanismos de proteção para IA, tendo trabalhado em seu assistente de IA Watson por mais de uma década, bem como em outros fornecedores de IA.

“Embora a iniciativa da IBM não tenha sido bem-sucedida, a organização acabou ganhando vantagem no desenvolvimento de diretrizes para IA. Como a AWS ainda está em um estágio muito inicial no que diz respeito à implementação de diretrizes para IA, sua escassez provavelmente lhe dará uma vantagem, já que, afinal, está em uma fase muito inicial de IA generativa e LLMs”, disse Park, mencionando também esse fato.”

personalizados integrados modelos do cliente, o que reduzirá a sobrecarga operacional e aumentará a velocidade de desenvolvimento de aplicativos.

A diretora de ciência aplicada da AWS, Sherry Marcus, aborda a questão de se houve alguma adição geral de capacidade por parte do provedor de serviços em nuvem que esteja atendendo à demanda corporativa, se algumas empresas já estão construindo seus próprios modelos ou aprimorando modelos disponíveis publicamente e se algumas delas estão contratando ferramentas de avaliação de modelos por meio da plataforma Bedrock.