AWS amplía las opciones de accesibilidad y control

Según el último anuncio, Amazon Web Services (AWS), el servicio de creación de aplicaciones de inteligencia artificial generativa de Amazon, está trasladando algunas de sus herramientas al público de accesibilidad general.

Las características diseñadas para ser las barandillas de la IA incluyen una herramienta de evaluación de modelos y nuevos modelos de lenguaje grandes (LLM).

Se presentó la función de Amazon, Guardrails for AI (GFA), el sistema presentado el año pasado y lanzado como avance hace un año. El conjunto de guardrails para Amazon Bedrock, que aparecerá como un asistente en Bedrock, podría difuminar aproximadamente el 85 % de la información perjudicial, indicó la compañía. Se puede utilizar en los modelos optimizados, los agentes de IA y todos los LLM de la biblioteca de Bedrock.

Medidas de seguridad personalizadas

Entre la variedad de LPML, se encuentran Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic y Cohere Command. Las organizaciones pueden usar el asistente de Guardrails para crear protecciones personalizadas según la política de su empresa y luego implementarlas.

El próximo lanzamiento es Guardrails para Amazon Bedrock, un software que permitirá la censura de información personal identificable (PII). Aún no está claro, pero con este software, información personal como correos electrónicos y números de teléfono podría ocultarse de las respuestas de LLM.

Además, Guardrails para Amazon Bedrock puede incorporar Amazon CloudWatch; de modo que las empresas pueden recibir alertas sobre una entrada o respuesta de un modelo que viole las políticas que se han defien los guardrails.

Para demostrar que IBM y otros competidores en este sector son adecuados, AWS intenta ponerse al día. Sin embargo, con AWS, este problema no es exclusivo, y otros proveedores de modelos, como IBM, Google Cloud, Nvidia y Microsoft, no son la excepción y ofrecen funciones similares que ayudan a las empresas a controlar el sesgo.

Abordar las demandas empresariales

Aunque el Sr. Icahn afirmaba que IBM encajaba en la categoría de rezagado entre los diferentes proveedores de modelos existentes, no dejó de mencionar el monopolio de IBM en el desarrollo de barandillas de inteligencia artificial, habiendo trabajado para su asistente de inteligencia artificial Watson durante más de una década y otros proveedores de inteligencia artificial.

Aunque el esfuerzo de IBM resultó infructuoso, la organización logró una ventaja en el diseño de barreras de seguridad para la IA. Dado que AWS aún se encuentra en una etapa muy temprana en la implementación de barreras de seguridad para la IA, es probable que su escasez le proporcione una ventaja, ya que, después de todo, se trata de una fase muy inicial de la IA generativa y los LLM (Maestría en Derecho), afirmó Park.

Junto con los cambios, AWS también está introduciendo una nueva capacidad para importar los modelos del cliente, lo que reduciría la sobrecarga operativa y aumentaría la velocidad del desarrollo de aplicaciones.

La directora de ciencias aplicadas de AWS, Sherry Marcus, aborda la cuestión de si ha habido una incorporación general de capacidad por parte del proveedor de servicios en la nube que está viendo la demanda empresarial, si algunas empresas ya están construyendo sus propios modelos o afinando modelos disponibles públicamente, y si algunas de ellas están contratando herramientas de evaluación de modelos a través de la plataforma Bedrock.