-
- Microsoftのエンジニアが、AIツールによる暴力的および性的な画像の生成について警鐘を鳴らし、生成AI技術に関する広範な懸念を浮き彫りにした。
-
- この懸念は著作権侵害の問題にも及び、本ツールはディズニーのエルサやスター・ウォーズのキャラクターなど、著作権で保護されたキャラクターを含む画像を生成している。
-
- AI技術の責任ある利用を確保し、有害なコンテンツの拡散を防ぐために、より厳格な安全対策と規制当局の監督を求める声が上がっている。
Microsoftのエンジニアが、同社のAI画像ジェネレーターが著作権法を無視して暴力的および性的なコンテンツを生成する傾向があるとして警鐘を鳴らしました。MicrosoftのシニアソフトウェアエンジニアリングマネージャーであるShane Jones氏は、Copilot Designerとして知られる製品を自由時間に積極的にテストしてきました。彼の発見には、中絶権、未成年者の飲酒、薬物使用などのテーマとともに悪魔が描かれた不気味な画像が含まれており、彼はこれを当局にエスカレートさせるよう促しました。
Jones氏の懸念と行動
Microsoftで6年間勤務しているJones氏は、AI技術の脆弱性を特定する役割であるレッドチームメンバーとしてCopilot Designerのテストを開始しました。ツールの生成する画像が安全でなく潜在的に有害であると判断したJones氏は、内部に発見を報告しましたが、会社が決定的な行動を起こすことに消極的であることに気づきました。LinkedInに公開書簡を投稿し、米上院議員に連絡するなど懸念を提起する努力にもかかわらず、Jones氏はこの問題をさらにエスカレートさせることを余儀なくされました。
FTC委員長とMicrosoftの取締役会へのエスカレーション
Copilot Designerの継続的な問題に対処するために、Jones氏は連邦取引委員会（FTC）委員長であるLina KhanとMicrosoftの取締役会に書簡を送りました。彼はFTCに調査を求め、製品への開示の追加や成熟したコンテンツを反映するようにアプリ評価を調整するなどの変更をMicrosoftに呼びかけました。また、Jones氏はMicrosoftの取締役会に、同社の責任あるAIインシデント報告プロセスの独立したレビューを開始するよう要請しました。
生成AIと監督の欠如に関する懸念
Jones氏の行動は、生成AI技術を取り巻く監督の欠如に関する広範な懸念を浮き彫りにします。特に今後の選挙の文脈において有害なコンテンツが広範囲に拡散する可能性を考慮し、Jones氏はより厳格な保護措置の緊急の必要性を強調しています。彼はCopilotチームが毎日多数の製品フィードバックメッセージを受け取っていることを指摘し、すべての問題に迅速に対応することが大きな課題であることを示しています。
著作権侵害とコンテンツの問題
暴力的および性的な画像の生成に加え、Copilot Designerは著作権侵害に関する懸念も提起しています。このツールは、ディズニーのエルサやスターウォーズのキャラクターなど、著作権で保護されたキャラクターを含む画像を生成していることが観察されており、著作権法およびMicrosoftのポリシーの両方を潜在的に違反しています。Jones氏は、この問題は著作権違反を超えて、世界的に有害で不気味な画像が拡散されるという広範な影響を強調しています。
MicrosoftのAI画像ジェネレーターに関する懸念に対処しようとするShane Jones氏の努力は、生成AIの分野における堅牢な監督と規制の必要性の高まりを裏付けています。彼の行動は、規制当局とテクノロジー企業に対し、AI技術の安全性と倫理的な使用を優先するための行動喚起として機能します。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ジョン・パーマー
John Murangiri氏は、市場分析のスキルを身につけてCryptopolitanに参加しました。John（通称JP）はナイロビ大学でマスコミュニケーションおよびメディア研究の学士号を取得し、これまでにInsideBitcoins.comやMetacoingraphで暗号資産市場の洞察を提供してきました。
