- Amazon Web Services (AWS) está trasladando algunas de las herramientas al público en general.
- El conjunto de directrices para Amazon Bedrock aparecerá como un asistente en Bedrock y podría filtrar aproximadamente el 85 % de la información dañina.
- AWS está introduciendo una nueva capacidad para importar modelos personalizados integrados.
Según el último anuncio, Amazon Web Services (AWS), el servicio de construcción de aplicaciones de IA generativa de Amazon, está moviendo algunas de las herramientas a la multitud de accesibilidad general.
Las funciones diseñadas para ser las vallas de seguridad de la IA incluyen una herramienta de evaluación de modelos y nuevos modelos de lenguaje grandes (LLM).
Se presentó la función de Amazon, Guardrails for AI (GFA), el sistema mostrado el año pasado y lanzado como una vista previa hace un año. El conjunto de vallas de seguridad para Amazon Bedrock para aparecer como un asistente en Bedrock podría difuminar aproximadamente el 85 % de la información dañina, indicó la empresa; se puede usar en los modelos ajustados finamente, agentes de IA y todos los LLM en la biblioteca de Bedrock.
Salvaguardias personalizadas
Entre la variedad de LPML, hay Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic y Cohere Command. Las organizaciones pueden usar el asistente de vallas de seguridad para crear salvaguardias a medida según la política de su empresa y luego pueden emplear esas encarnaciones.
Lo siguiente en lanzarse es Guardrails para Amazon Bedrock, un software que permitirá la redacción de PII. Aún no está claro, pero usando este software, la información personal como correos electrónicos y números de teléfono podría ocultarse de las respuestas de LLM.
Además, Guardrails para Amazon Bedrock puede incorporar Amazon CloudWatch; por lo que las empresas pueden ser alertadas sobre una entrada o respuesta de un modelo, que violan políticas que se han definido en las vallas de seguridad.
Para demostrar que los competidores de IBM y otros en este negocio son apropiados, AWS está intentando jugar un juego de persecución. Sin embargo, con AWS, este problema no es único y otros proveedores de modelos, como IBM, Google Cloud, Nvidia y Microsoft, no son la excepción y proporcionan características similares que ayudan a las empresas a controlar el sesgo.
Abordando las demandas empresariales
Mientras el Sr. Icahn afirmaba que IBM se ajusta a la categoría de rezagado entre los diferentes proveedores de modelos existentes, no dejó de mencionar el monopolio de IBM en el desarrollo de vallas de seguridad de IA habiendo trabajado para su asistente de IA Watson durante más de una década y otros proveedores de IA.
«Aunque el esfuerzo de IBM resultó ser un fracaso, la organización terminó obteniendo un comienzo en el diseño de vallas de seguridad de IA. Dado que AWS aún está en una etapa muy incipiente para traer vallas de seguridad para la IA, su escasez es probable que le proporcione una ventaja inicial, ya que después de todo es una fase muy inicial de IA generativa y LLM», dijo Park, mencionando también que.»
Junto con los cambios, AWS está introduciendo una nueva capacidad de importar los modelos personalizados integrados del cliente, lo que reduciría la carga operativa y aumentaría la velocidad de desarrollo de aplicaciones.
La directora de ciencia aplicada en AWS, Sherry Marcus, enfrenta la pregunta de si ha habido una adición de capacidad general del proveedor de servicios en la nube que está viendo la demanda empresarial, si algunas empresas ya están construyendo sus propios modelos o ajustando finamente modelos disponibles públicamente, y si algunas de ellas están contratando herramientas de evaluación de modelos a través de la plataforma Bedrock.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
James Kinoti
Entusiasta de las criptomonedas, James encuentra placer en compartir conocimientos sobre fintech, criptomonedas, así como blockchain y tecnologías de vanguardia. Las últimas innovaciones en la industria de las criptomonedas, los juegos cripto, la IA, la tecnología blockchain y otras tecnologías son su preocupación. Su misión: mantenerse al día con aplicaciones transformadoras en diversas industrias.
