- Windowsなどの人気ソフトウェアに統合されたMicrosoftのAIが、不気味で暴力的な画像を生成しており、安全性への懸念が高まっている。
- 特にImage CreatorにおけるAIは、「ディープフェイク」画像の作成を許可していると非難されており、そこには首切りや各種グループに対する暴力が含まれている。
- 安全対策を謳っているにもかかわらず、Microsoftは責任をユーザー側に転嫁する傾向があり、そのAIの意図しない使用に対する説明責任の欠如が浮き彫りになっている。
恐ろしい発見として、安全であり日常のソフトウェアに統合されていると謳われるMicrosoftの人工知能が、残虐で暴力的な画像を生成していることについて scrutiny の対象となっています。懸念の中心は、MicrosoftのBingの一部であり、広く使用されているWindows Paintに最近追加されたImage Creatorにあります。MicrosoftのパートナーであるOpenAI由来のDALL-E 3として知られるこの技術は、その安全性と作成者の説明責任について疑問を投げかけられています。
Microsoft vs. 「キルプロンプト」
不快な画像は、AIが挑発的かつ時に下品な画像を作成する能力を探求するオンラインコミュニティに関与しているカナダのアーティスト、ジョシュ・マクダフィーによって明るみに出されました。10月、マクダフィーとその同僚たちはMicrosoftのAI、特にOpenAIの最新技術を組み込んだBingのImage Creatorに焦点を当てました。Microsoftは有害な画像生成を防ぐための制御を持っていると主張していますが、マクダフィーは重大な抜け穴を発見しました。
Microsoftは有害な画像作成を防ぐために2つの戦略を採用しています。入力では、インターネットからのデータでAIをトレーニングし、出力では、特定の内容の生成を防ぐガードレールを作成します。マクダフィーは実験を通じて、「キルプロンプト」と呼ばれる特定のプロンプトを発見し、これによりAIが暴力的な画像を作成できることがわかりました。これにより、Microsoftの安全対策の有効性に関する懸念が提起されました。
マクダフィーがMicrosoftのAIバグ報奨金プログラムを通じてこの問題への注意を喚起しようとしたにもかかわらず、彼の提出物は却下され、会社の潜在的なセキュリティ脆弱性への対応能力に疑問が投げかけられました。却下メールには、Microsoftのセキュリティ脆弱性の要件を満たしていないことが理由として挙げられ、マクダフィーを落胆させ、システムにおける潜在的な欠陥を浮き彫りにしました。
Microsoft、AI監督で失敗
AIバグ報奨金プログラムの開始にもかかわらず、マクダフィーの発見に対するMicrosoftの対応は満足いくものではありませんでした。「キルプロンプト」の提出物の却下と報告された懸念に対する行動の欠如は、問題の緊急性に対する無視を示唆しています。一方、AIはマクダフィーの元のプロンプトにいくつかの変更が加えられた後も、不快な画像を生成し続けました。
Microsoftからの具体的な行動の欠如は、同社の責任あるAIへのコミットメントに関する懸念を呼び起こします。Microsoftが部分的に所有するOpenAIを含む他のAI競合他社と比較すると、異なる企業が同様の問題に対処する方法に差異があることが明らかになります。Microsoftの問題への繰り返し失敗は、責任あるAI開発への公約にもかかわらず、AIガードレールの優先順位付けにおける潜在的なギャップを示しています。
倫理的なAI開発のためのモデル
Microsoftが迅速かつ効果的な行動を取ろうとしないことは、同社のAI安全へのアプローチにおける赤旗を示唆しています。マクダフィーによる「キルプロンプト」の実験は、MicrosoftのパートナーであるOpenAIを含む他のAI競合他社が、同様のプロンプトに基づく有害な画像の生成を拒否したことを明らかにしました。MicrosoftのパートナーであるOpenAIでさえ、マクダフィーのプロンプトをブロックする措置を実装し、堅牢な安全メカニズムの必要性を強調しました。
ユーザーがAIを「意図されていない方法」で使用しようとしているというMicrosoftの主張は、技術の潜在的な欠陥を認めるのではなく、責任を個人に置きます。Photoshopとの比較と、ユーザーが有害なコンテンツの作成を控えるべきだという主張は、過去に見られたパターン、特にテクノロジーの誤用に対処することに struggle してきたソーシャルメディアプラットフォームに似ています。
MicrosoftがAIによる不快な画像生成の余波と葛藤する中、この会社がその技術の責任ある使用を確保するために十分なことをしているのかという疑問が残ります。この問題に迅速かつ効果的に対応する見せかけの躊躇は、説明責任とAIガードレールの優先順位付けに関する懸念を呼び起こします。社会が人工知能の進化し続ける景観を航行する中、責任はユーザーだけでなく、AIの倫理的かつ安全な展開を確保するためのテクノロジーの巨人にもあります。Microsoftは、人工知能の領域において、革新と責任の間のギャップをどのように埋めることができるのでしょうか。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
アミール・シェイク
Aamir氏は、暗号資産およびテクノロジー業界でほぼ6年の経験を持つテックジャーナリストです。MAJ大学を修了し、財務・マーケティング分野でMBAを取得しました。現在はCryptopolitanで勤務し、暗号資産市場の最新動向や価格予測について報じています。
