- Microsoft の AI ツールはセキュリティを最優先し、誤情報の拡散を防ぎます。
- Azure AI はリアルタイムの脆弱性および脅威検出を導入しました。
- 強化された制御オプションにより、Azure ユーザーは悪用から身を守ることができます。
Microsoftは、Azure AIプラットフォームのセキュリティを強化するための高度な機能ツールキットを公開した。Microsoft Sentient AI InitiativeのシニアプロダクトオフィサーであるSarah Bindは、AI対応アプリケーションの使用に伴うリスクに対応するために慎重に設計された一連のツールの導入を発表する。
プレビュー段階において、新しいセキュリティ対策は Azure AIを脅威から守り、安全な回答を提供し、特定のレッドチームを必要とせずに、プロモーションや隠れた悪意のあるプロンプトインジェクションから保護する。
Microsoft Azureの高度なAI安全ツール
これらの懸念に対処することは、予期せぬリスクや懸念を軽減し、AIの実装や長期的な成功を妨げる可能性のある要因を排除するために不可欠であり、AI技術を公共部門に効果的に統合する上で最も重要である。
プロンプトシールド、グラウンデッドネス検出、およびモデルの脆弱性をスクリーニングするための詳細な脆弱性評価など、氷山の一角にあるツールも公開された。
プロンプトシールドは、悪意のあるプロンプトインジェクションをブロックし、禁止された言語や隠れたプロンプトの使用を禁止することで、ユーザー入力や第三者データの悪用につながる可能性のあるリスクからユーザーを保護し、AIモデルを通じてAIがデジタル世界に対して使用されることからのリスクを防ぐゲートウェイを提供する。
これは特に、AI駆動モデルで経験された課題であった、歴史的出来事について偽造または不正確な資料の生成を回避する際に重要となる。
AzureのエコシステムにおけるAIセキュリティとハルシネーションの軽減
Microsoftの安全ツールキットのもう一つの重要な部分であるテキストベースのハルシネーション軽減は、一連のハルシネーションと中和を対象としている。これを実現することで、あらゆるアイデアが許容される環境ではなく、証拠によって裏付けられ、検証可能なアイデアのみがAIシステムへの最も適切な入力となる環境が創出される。
さらに、セキュリティ評価により、モデルの脆弱性を詳細に監視し、これらの弱点を直ちに特定し、必要に応じてセキュリティ対策を調整できるようになる。これを考慮し、Microsoftは個々の顧客のニーズに対応し、適切なAIセキュリティ対策を提供する準備ができている。
Azureの顧客は、性別バイアスのコンテンツ、ヘイトスピーチ、および他の侮辱的なコンテンツを含めるか除外するかを選択することで、設定をカスタマイズでき、これらは特定のニーズに響くものである。
同様に、このような将来のアップグレードは、レポート機能を提供することで、ユーザーが真のテスターか悪意のあるユーザーかを管理者が判断するのに役立つだろう。
Microsoftの先駆的な安全かつ倫理的なAI開発へのアプローチ
これらの安全対策の重要性は、セキュリティの直接的な利点だけでなく、情報技術業界が社会的責任を果たすAI開発への包括的なアプローチを吸収しているという事実にも及ぶ。LlamaなどのツールをGPT-4やLlama 2のような主要なバージョンに統合することは、Azure AI上のAIアプリケーションの長いリストが、より高い詐欺およびエラー制御対策に依存することを意味する。
ただし、人気がないオープンソースモデルでは、ユーザーがセキュリティツールをメインシステムに手動で統合する必要があるという事実は、補足的な注意点である。これらの強制機能は、Microsoftのセキュリティおよび倫理的なAI環境の作成に関する包括的な戦略の一部として認識されている。Azure AIの顧客（KPMG、AT&T、Redditなど）は、さまざまな分野で進歩を実装することを目的とした主要な勢力を構成している。
したがって、その影響は広範囲に及ぶと予想される。さらに、MicrosoftはOpenAIとのパートナーシップおよびAzure OpenAI Serviceの立ち上げを通じて、AI分野における主要な勢力であり、開発者や組織がAIアプリケーションで競争力を発揮するために必要なツールを提供していることを示している。
Microsoftの最後の自動安全機能は、人工知能技術が生み出す大きなリスクへの対応として示されている。AIがセキュリティ脅威からどのように守られるかを掘り下げ、AIツールのライブ出力を正確にすることで、Microsoftはこのような方法でAIセキュリティの新しい規範を定義している。これらはAIソリューションの安全性、整合性、信頼性を高め、責任あるAI使用に関する議論を進化させるのに役立つ。
人工知能が発展するにつれて、安全な監視の必要性は間違いなく高まる。これらの革新的なセキュリティ技術により、Microsoftは真に安全で倫理的なAIパラダイムに向けて目標を大幅に引き上げる。これらの保護措置により、AzureのAI顧客は、人工知能が伴うすべての可能なリスクを完全に理解した上で、自律型マシンを運用に導入できることを確信できる。
オリジナル記事： https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
エママン・オムワンダ
エマニュエル・オムワンダの専門分野は暗号資産市場であり、ファンダメンタル分析とテクニカル分析の両方にわたります。Cryptopolitanに参加する以前は、CoinEdition、The Crypto Basic、CryptoNews Flash、DroomDroomなどのさまざまな暗号資産メディアサイトで活動していました。ケニアのケンヤッタ大学から数学およびコンピュータサイエンスの理学士（BSc.）を取得し、現在はコミュニケーション・メディア研究の文学士取得に向けて最終学年を修了中です。
