最新ニュース
あなたへのおすすめ
週刊
トップの座を維持する

最高の仮想通貨情報をあなたの受信トレイに直接お届けします。.

マイクロソフト、AI幻覚を防ぐAzure AI安全機能を発表

によるエマン・オムワンダエマン・オムワンダ
読了時間3分
マイクロソフト
  • Microsoft の AI ツールはセキュリティを優先し、誤情報を防止します。.
  • Azure AI は、リアルタイムの脆弱性と脅威の検出を導入します。.
  • 強化された制御オプションにより、Azure ユーザーは不正使用から保護されます。.

マイクロソフトは、Azure AIプラットフォームのセキュリティを強化するための高度な機能ツールキットを発表しました。Microsoft Sentient AI Initiativeの主任製品責任者であるサラ・バインドは、AI対応アプリケーションの利用に伴うリスクに対処するために綿密に設計された一連のツールを発表します。. 

プレビュー段階では、新しいセキュリティ対策により、 Azure AI を脅威から保護し、保護された回答を提供し、特別なレッド チームを必要とせずに、悪意のあるプロンプトの挿入や誘導から保護します。

Microsoft Azureの高度なAI安全ツール

AI テクノロジーを公共部門に効果的に統合するには、これらの懸念に対処することが最も重要です。AI テクノロジーの導入と長期的な成功を妨げる可能性のある予期せぬリスクや懸念を軽減することが非常に重要だからです。.

モデルの脆弱性をスクリーニングするのに役立つプロンプトシールド、グラウンデッドネス検出、精巧な脆弱性評価などの氷山の一角ツールも公開されました。. 

プロンプト シールドは、悪意のあるプロンプトの挿入をブロックするゲートウェイを提供し、ユーザー入力やサードパーティのデータの悪用につながる可能性のある禁止言語/秘密のプロンプトの使用を禁止することで、AI モデルを通じてデジタル世界に対して AI を使用するリスクからユーザーを保護します。. 

これは、AI駆動型モデルで経験した課題である、歴史的出来事に関する偽物や不正確な資料の作成を避ける際に特に重要になります。

Azure エコシステムにおける AI セキュリティと幻覚の軽減

マイクロソフトの安全ツールキットのもう一つの重要な要素であるテキストベースの幻覚緩和機能は、一連の幻覚とその無効化を目的としています。これにより、あらゆるアイデアが許容される環境が構築され、証拠に裏付けられ検証可能なアイデアだけがAIシステムへの最適な入力として受け入れられるようになります。. 

さらに、安全性評価により、モデルの脆弱性を詳細に監視できるようになり、これらの弱点をdentに特定し、必要に応じてセキュリティ対策を調整できるようになります。これを踏まえ、マイクロソフトは個々の顧客のニーズと適切なAIセキュリティ対策に対応できる体制を整えています。. 

Azure のお客様は、特定のニーズに合う性別による差別的なコンテンツ、ヘイトスピーチ、その他の品位を傷つけるコンテンツを含めるか除外するかを設定をカスタマイズできます。. 

同様に、このような将来のアップグレードでは、レポート機能が提供され、管理者がユーザーが真のテスターであるか悪意のあるユーザーであるかを判断するのにも役立ちます。.

安全で倫理的なAI開発へのマイクロソフトの先駆的なアプローチ

これらの安全対策の重要性は、セキュリティの直接的なメリットだけでなく、情報技術業界がAI開発において社会的責任を伴う包括的なアプローチを採用しているという事実にも表れています。LlamaなどのツールをGPT-4やLlama 2といった主要バージョンに統合することで、Azure AI上の多くのAIアプリケーションが、より高度な不正行為およびエラー対策に依存することになります。. 

ただし、あまり普及していないオープンソースモデルでは、ユーザーが安全ツールをメインシステムに手動で統合する必要がある場合があるという点は留意すべき点です。これらの強制機能は、セキュリティと倫理性を備えたAI環境を構築するというMicrosoftの包括的な戦略の一環として認識されています。Azure AIのクライアント(KPMG、AT&T、Redditなど)は、様々な分野における進歩の実現を目指す主要な企業です。. 

そのため、その影響は広範囲に及ぶことが予想されます。さらに、マイクロソフトはOpenAIとの提携とAzure OpenAIサービスの立ち上げを通じて、開発者や組織がAIアプリケーションにおける競争力を獲得するために必要なツールを提供することで、AI分野における主導権を握っていることを証明しています。.

マイクロソフトの最後の自動安全機能は、人工知能技術の言論によって生じる大きなリスクへの対応として提示されています。AIをセキュリティ上の脅威から保護する方法を深く探求し、AIツールのリアルタイム出力の精度を高めることで、マイクロソフトはAIセキュリティの新たな規範を defiしています。これにより、AIソリューションの安全性、完全性、信頼性が向上し、AI責任ある使用の言論の進化が促進されます。.

人工知能(AI)が発展するほど、安全な監視の必要性は間違いなく高まります。これらの革新的なセキュリティ技術により、マイクロソフトは真に安全で倫理的なAIパラダイムの実現に向けて、目標をはるかに高いレベルに引き上げます。これらの安全対策により、Azure AIのお客様は、AIに伴うあらゆるリスクを十分に理解した上で、自動化マシンを業務に導入できるというdent 得ることができます。.

元記事は https://thehorizo​​n.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps

あなたの銀行はあなたのお金を使っています。あなたは残り物しか受け取っていません。 あなた自身が銀行になる方法

この記事を共有する

免責事項: 本情報は投資助言ではありません。Cryptopolitan.com Cryptopolitan、 本ページの情報に基づいて行われた投資について一切責任を負いません。投資判断を行う前に、ごtrondentdentdentdentdentdentdentdent で調査を行うか、資格のある専門家にご相談されることを

もっと…ニュース
ディープ クリプト
速習コース