A AWS Expande Opções de Acessibilidade e Controle

De acordo com o último anúncio, a Amazon Web Services (AWS), o serviço de construção de aplicativos de IA generativa da Amazon, está movendo algumas das ferramentas para o público de acesso geral.

Os recursos projetados para serem as barreiras de segurança da IA incluem uma ferramenta de avaliação de modelos e novos modelos de linguagem grandes (LLMs).

O recurso da Amazon, Guardrails for AI (GFA), o sistema mostrado no ano passado e lançado como uma prévia há um ano, foi apresentado. O conjunto de barreiras de segurança para o Amazon Bedrock, que aparecerá como um assistente no Bedrock, pode filtrar cerca de 85% das informações prejudiciais, indicou a empresa; ele pode ser usado em modelos ajustados, agentes de IA e todos os LLMs na biblioteca do Bedrock.

Salvaguardas personalizadas

Entre a variedade de LPMLs, há Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic e Cohere Command. As organizações podem usar o assistente de barreiras de segurança para criar salvaguardas sob medida de acordo com a política de sua empresa e, em seguida, empregar essas implementações.

A próxima a ser lançada é a Guardrails for Amazon Bedrock, um software que permitirá a redação de PII. Ainda não está claro, mas usando este software, informações pessoais, como e-mail e números de telefone, podem ser ocultadas das respostas do LLM.

Além disso, a Guardrails for Amazon Bedrock pode incorporar o Amazon CloudWatch; assim, as empresas podem ser alertadas sobre uma entrada ou resposta de um modelo que viole as políticas definidas nas barreiras de segurança.

Para provar que a IBM e outros concorrentes neste setor são adequados, a AWS está tentando jogar o jogo do atraso. Com a AWS, no entanto, este problema não é exclusivo e outros provedores de modelos, como IBM, Google Cloud, Nvidia e Microsoft, não são exceção e fornecem recursos semelhantes que ajudam as empresas a controlar o viés.

Atendendo às demandas empresariais

Enquanto o Sr. Icahn afirmava que a IBM se encaixa na categoria de atrasada entre os diferentes provedores de modelos existentes, ele não deixou de mencionar o monopólio da IBM no desenvolvimento de barreiras de segurança para IA, tendo trabalhado para seu assistente de IA Watson por mais de uma década e para outros fornecedores de IA.

“Embora o esforço da IBM tenha sido malsucedido, a organização acabou ganhando uma vantagem inicial no design de barreiras de segurança para IA. Como o fato é que a AWS ainda está em uma fase muito inicial para trazer barreiras de segurança para IA, sua escassez provavelmente lhe dará uma vantagem inicial, já que, afinal, é uma fase muito inicial da IA generativa e dos LLMs”, disse Park, mencionando também que.”

Junto com as mudanças, a AWS está introduzindo uma nova capacidade de importar os modelos personalizados embutidos do cliente, o que reduziria a sobrecarga operacional e aumentaria a velocidade do desenvolvimento de aplicativos.

A diretora de ciência aplicada da AWS, Sherry Marcus, confronta a questão de se houve uma adição geral de capacidade do provedor de serviços em nuvem que está vendo demanda empresarial, se algumas empresas já estão construindo seus próprios modelos ou ajustando modelos publicamente disponíveis e se algumas delas estão contratando ferramentas de avaliação de modelos através da plataforma Bedrock.