Microsoft の AI のジレンマ – 安全だが、不快な画像を生み出している?

マイクロソフトの人工知能（AI）は、安全で日常的なソフトウェアに統合されていると謳われているにもかかわらず、残酷で暴力的な画像を生成するとして、厳しい調査を受けている。懸念の中心となっているのは、マイクロソフトのBingの一部であり、広く普及しているWindowsペイントに最近追加されたImage Creatorである。マイクロソフトのパートナーであるOpenAIが開発したDALL-E 3と呼ばれるこの技術は、現在、その安全性と開発者の責任について疑問視されている。.

Microsoft vs. 「キルプロンプト」

これらの不快な画像は、挑発的で時に悪趣味な画像を作成するAIの能力を探求するオンラインコミュニティに参加しているカナダ人アーティスト、ジョシュ・マクダフィー氏によって明らかにされました。10月、マクダフィー氏と彼の仲間は、MicrosoftのAI、特にOpenAIの最新技術を組み込んだBingのImage Creatorに焦点を当てました。Microsoftは有害な画像の生成を防ぐための制御手段を備えていると主張していますが、マクダフィー氏は重大な抜け穴を発見しました。.

マイクロソフトは、有害な画像の作成を防ぐために2つの戦略を採用しています。1つは入力であり、インターネットからのデータを用いてAIを訓練するものです。もう1つは出力であり、特定のコンテンツの生成を阻止するためのガードレールを作成するものです。マクダフィー氏は実験を通じて、「キルプロンプト」と呼ばれる特定のプロンプトを発見しました。このプロンプトはAIに暴力的な画像を作成させてしまうものでした。このことが、マイクロソフトの安全対策の有効性に対する懸念を引き起こしました。.

マクダフィー氏はマイクロソフトのAIバグ報奨金プログラムを通じてこの問題への関心を高めようと努力したにもかかわらず、提出された報告は却下され、潜在的なセキュリティ脆弱性に対する同社の対応力に疑問が生じました。却下メールには、マイクロソフトのセキュリティ脆弱性に関する要件を満たしていないことが記載されており、マクダフィー氏の士気は低下し、システムの潜在的な欠陥が浮き彫りになりました。.

マイクロソフト、AI監視で失敗

AIバグ報奨金プログラムを開始したにもかかわらず、マクダフィー氏の発見に対するマイクロソフトの対応は満足のいくものではありませんでした。「キルプロンプト」の提出を拒否し、報告された懸念事項への対応を怠ったことは、問題の緊急性を軽視している可能性を浮き彫りにしました。一方、マクダフィー氏の元のプロンプトにいくつかの修正が加えられた後も、AIは不快な画像を生成し続けました。.

マイクロソフトの具体的な行動の欠如は、同社の責任あるAIへのコミットメントに懸念を抱かせます。マイクロソフトが一部出資するOpenAIを含む他のAI競合企業と比較すると、各社が同様の問題への対応方法にばらつきがあることが明らかになります。マイクロソフトがこの問題への対応に繰り返し失敗していることは、責任あるAI開発への公約にもかかわらず、AIガードレールの優先順位付けに潜在的な欠陥があることを示唆しています。.

倫理的なAI開発のモデル

マイクロソフトが迅速かつ効果的な対策を講じようとしない姿勢は、同社のAI安全性への取り組みに危険信号が灯っていることを示唆している。マクダフィー氏による「キルプロンプト」の実験では、小規模なスタートアップ企業を含む他のAI競合企業が、同様のプロンプトに基づいて有害な画像を生成することを拒否したことが明らかになった。マイクロソフトのパートナーであるOpenAIでさえ、マクダフィー氏のプロンプトをブロックする対策を実施し、堅牢な安全メカニズムの必要性を強調した。.

ユーザーがAIを「意図されていない方法で」使用しようとしているというマイクロソフトの主張は、技術の潜在的な欠陥を認めるのではなく、個人に責任を押し付けるものである。Photoshopとの比較や、ユーザーは有害なコンテンツの作成を控えるべきだという主張は、過去に見られたパターンを彷彿とさせ、ソーシャルメディアプラットフォームが自社技術の悪用への対策に苦慮していた状況を彷彿とさせる。.

マイクロソフトが、自社のAIが不穏な画像を生成するという事態に苦慮する中、疑問が残る。同社は自社技術の責任ある利用を確保するために十分な対策を講じているのだろうか？この問題への迅速かつ効果的な対応を躊躇する姿勢は、説明責任とAIガードレールの優先順位付けに関する懸念を生じさせる。社会が人工知能の進化という局面を乗り越えていく中で、AIの倫理的かつ安全な導入を確保する責任は、ユーザーだけでなく、テクノロジー大手にも課せられる。マイクロソフトは、人工知能の分野において、イノベーションと責任の溝をどのように埋めることができるのだろうか？