AWSはアクセシビリティと制御オプションを拡大

最新の発表によると、生成型AIアプリビルダーサービスであるAmazonのAmazon Web Services（AWS）は、ツールの一部を一般利用者に開放しています。

AIのガードレールとして設計された機能には、モデル評価ツールと新しい大規模言語モデル（LLM）が含まれます。

Amazonの機能「Guardrails for AI（GFA）」は、昨年示され、1年前にプレビューとしてリリースされたシステムです。Amazon Bedrockのガードレールセットは、Bedrock内でウィザードとして表示され、有害な情報の約85%をブロックできる可能性があります。これは、微調整されたモデル、AIエージェント、およびBedrockライブラリ内のすべてのLLMで使用できます。

カスタマイズされた保護

LPMLの多様性の中には、Amazon Titan Text、Anthropic Claude、Meta Llama 2、AI21 Jurassic、Cohere Commandが含まれます。組織はGuardrailsウィザードを使用して、自社のポリシーに合わせてカスタマイズされた保護策を作成し、それらの実装を採用できます。

次にリリースされるのは、PII（個人識別情報）の削除を可能にするソフトウェア「Guardrails for Amazon Bedrock」です。まだ明確ではありませんが、このソフトウェアを使用することで、メールアドレスや電話番号などの個人情報をLLMの応答から非表示にすることができます。

さらに、Guardrails for Amazon BedrockはAmazon CloudWatchと統合できるため、企業はガードレールで定義されたポリシーに違反するモデルの入力または応答についてアラートを受け取ることができます。

IBMやその他の競合他社がこのビジネスにおいて適切であることを証明するために、AWSは追いつくゲームを試みています。しかし、この問題はAWSに固有のものではなく、IBM、Google Cloud、Nvidia、Microsoftなどの他のモデルプロバイダーも例外ではなく、企業がバイアスを制御するのを支援する同様の機能を提供しています。

エンタープライズのニーズに対応

Icahn氏は、IBMが既存のモデルプロバイダーの中で遅れを取っていると主張しましたが、10年以上にわたりAIアシスタントWatsonや他のAIベンダーのためにガードレールAIの開発で独占的な地位を築いてきたIBMの功績を指摘することを怠りませんでした。

「IBMの取り組みは不成功に終わりましたが、組織はAIガードレールの設計において一歩先を行くことになりました。AWSはまだAIのガードレールを導入する非常に初期段階にあり、その希少性は頭書を提供する可能性があります。結局のところ、これは生成AIおよびLLMの非常に初期のフェーズだからです」とParkは述べ、さらに付け加えました。

これらの変更に伴い、AWSはクライアントのカスタム内蔵モデルをインポートする新しい機能を導入しており、これにより運用上のオーバーヘッドが削減され、アプリケーション開発の速度が向上します。

AWSの応用科学担当ディレクターであるSherry Marcusは、エンタープライズからの需要が高まっているクラウドサービスプロバイダーが一般的な機能強化を行ったかどうか、一部の企業が独自モデルの構築や公開モデルのファインチューニングをすでに開始しているかどうか、そして一部がBedrockプラットフォームを通じてモデル評価ツールを採用しているかどうかという問いに直面しています。