Microsoft、AIチャットボットのセキュリティを強化して詐欺師を阻止

Microsoft Corpは、Azure AI Studioにいくつかのセキュリティ機能を追加しました。これらは長期的に、ユーザーがAIモデルを異常または不適切な動作をするモードに構成する可能性を減らし続けるはずです。ワシントン州レッドモンドに拠点を置くこの多国籍テクノロジー企業は、ブログ記事でこれらの改善を概説し、AIインタラクションの整合性を保証し、ユーザーベースでの信頼を育むことを強調しました。

プロンプトシールドなど 

主な開発の一つは、「プロンプトシールド」の作成です。これは、AIチャットボットとの会話中にプロンプトインジェクションを検出して阻止するように設計された技術です。これらはいわゆるジャイルブレイクであり、基本的にユーザーからの意図的な入力で、AIモデルから望ましくない応答を引き出すように形成されています。

例えば、Microsoftは間接的にプロンプトインジェクションに関与しており、悪意のある命令の実行が可能であり、そのようなシナリオはデータ窃盗やシステムハイジャッキングなどの深刻なセキュリティ上の結果につながる可能性があります。これらのユニークな脅威をリアルタイムで検出し対応するためのメカニズムは、Microsoftの責任あるAI担当チーフプロダクトオフィサーであるサラ・バード氏によると鍵となります。

Microsoftはまた、モデルが誤情報や誤解を招く情報を表現している可能性のある際にユーザーの画面にアラートが表示されるようになり、よりユーザーフレンドリーで信頼性の高い環境が確保されると追加しています。

AIツールへの信頼構築 

Microsoftの取り組みは、個人消費者や企業顧客を対象としたサービスで広く適用されている、ますます人気のある生成AIへの人々の信頼を与えるためのより大きなイニシアチブの一部です。Microsoftは、ユーザーがCopilotチャットボットを操作して奇妙または有害な出力を生み出す能力を持っていた事例を経験した後、細部まで精査しました。これは、AI技術や一般的な知識とともに増加する可能性のある、言及された操作手法に対する強力な防御の必要性を示す結果をサポートするものです。攻撃パターンの認識と軽減、例えば攻撃者がロールプレイで質問やプロンプトを繰り返すようなケースです。

OpenAIの最大の投資家かつ戦略的パートナーであるMicrosoftは、責任ある安全な生成AI技術の統合と創造における境界を押し広げています。両者は、安全性のための生成AIの責任あるデプロイメントと基盤モデルにコミットしています。しかし、バード氏は、これらの大規模言語モデルが将来の多くのAIイノベーションの基盤として見なされるようになってきている一方で、操作に対して無敵ではないことを認めています。

これらの基盤の上に構築するには、モデル自体に依存するだけでなく、AIの安全性とセキュリティに対する包括的なアプローチが必要です。

Microsoftは最近、シフトするAI脅威の景観から保護するために講じられている積極的な措置を示し、保証するために、Azure AI Studioのセキュリティ対策を強化すると発表しました。

タイムリーなスクリーンとアラートを組み込むことで、AIの誤用を避け、AIインタラクションの整合性と信頼性を維持することを目指しています。

AI技術の絶え間ない進化と日常生活の多くの側面での採用に伴い、Microsoftおよび他のAIコミュニティ全体が非常に警戒心のあるセキュリティ姿勢を維持する時が来ました。