AWS 扩展辅助功能和控制选项

根据最新公告， 亚马逊正在将部分工具推广给普通用户群体。

旨在作为人工智能护栏的功能包括模型评估工具和新的语言大型模型（LLM）。.

亚马逊展示了其去年发布的“人工智能护栏”（Guardrails for AI，简称GFA）功能。该系统于一年前以预览版形式推出。亚马逊表示，这套用于Amazon Bedrock的护栏系统如同向导一般，可以屏蔽约85%的有害信息；它可用于Bedrock库中的微调模型、人工智能代理以及所有LLM（逻辑逻辑模型）。.

量身定制的保障措施

在众多LPML（低功耗机器学习）中，包括Amazon Titan Text、Anthropic Claude、Meta Llama 2、AI21 Jurassic和Cohere Command。组织可以使用Guardrails向导，根据公司政策定制安全措施，然后部署这些措施。.

接下来即将推出的是适用于 Amazon Bedrock 的 Guardrails 软件，该软件允许对个人身份信息 (PII) 进行脱敏处理。目前尚不清楚，但使用该软件，电子邮件地址和电话号码等个人信息可能会在 LLM 回复中被隐藏。.

此外，Guardrails for Amazon Bedrock 能够集成 Amazon CloudWatch；因此，企业可以收到有关模型输入或响应违反了 Guardrails 中 defi的策略的警报。.

为了证明 IBM 和其他竞争对手在这个领域是合格的，AWS 正在努力追赶。然而，这个问题并非 AWS 独有，其他云服务提供商，例如 IBM、Google Cloud、Nvidia 和 Microsoft，也同样面临这个问题，它们提供的类似功能可以帮助企业控制这种偏差。.

满足企业需求

伊坎先生声称 IBM 在现有的各种模型提供商中属于落后者，但他也不忘提及 IBM 在开发防护人工智能方面的垄断地位，他曾为 IBM 的人工智能助手 Watson 工作了十多年，以及其他人工智能供应商。.

“尽管IBM的尝试最终以失败告终，但该公司在设计人工智能防护措施方面却抢占了先机。事实上，AWS在人工智能防护措施方面仍处于起步阶段，其资源稀缺性可能会使其获得先发优势，毕竟生成式人工智能和LLM技术仍处于非常早期的阶段，”Park说道，并补充道。

与此同时，AWS 还引入了导入客户端自定义内置 模型 ，这将减少运营开销并提高应用程序开发速度。

AWS 应用科学总监 Sherry Marcus 提出了这样一个问题：云服务提供商是否增加了普遍的能力以满足企业需求？一些企业是否已经在构建自己的模型或微调公开可用的模型？以及一些企业是否正在通过 Bedrock 平台租用模型评估工具？.