マイクロソフトのエンジニア、AIツールによる暴力的・性的な画像の作成に懸念を表明

マイクロソフトのエンジニアが、同社のAI画像生成ツールが著作権法を無視して暴力的・性的なコンテンツを生成する傾向があると警鐘を鳴らした。マイクロソフトのプリンシパル・ソフトウェア・エンジニアリング・マネージャーであるシェーン・ジョーンズ氏は、余暇を利用して「コパイロット・デザイナー」と呼ばれるこのツールを積極的にテストしてきた。中絶権、未成年飲酒、薬物使用といったテーマと並んで、悪魔などの不快な画像も含まれていることが判明したため、ジョーンズ氏は上級当局に問題を報告した。.

ジョーンズの懸念と対応

マイクロソフトで6年間勤務してきたジョーンズ氏は、AI技術の脆弱性を特定するdentチームの一員として、Copilot Designerのテストを開始しました。ツールによって生成された画像が安全ではなく、潜在的に有害であると判断したジョーンズ氏は、その発見をマイクロソフト社内に報告しましたが、同社は断固たる措置を取ることに消極的でした。LinkedInへの公開書簡の投稿や米国上院議員への連絡など、懸念を表明しようと努力したにもかかわらず、ジョーンズ氏はこの問題をさらにエスカレートせざるを得ないと感じました。.

FTC議長とマイクロソフトの取締役会へのエスカレーション

Copilot Designerをめぐる継続的な問題に対処するため、ジョーンズ氏は連邦取引委員会（FTC）のリナ・カーン委員長とマイクロソフトの取締役会に書簡を送付した。ジョーンズ氏はFTCに調査を促し、マイクロソフトに対し、製品への情報開示の追加や、成人向けコンテンツへの対応としてアプリのレーティング調整といった変更を実施するよう求めた。また、ジョーンズ氏はマイクロソフトの取締役会に対し、同社の責任あるAIdent 報告プロセスについて、dent 調査を開始するよう要請した。.

生成AIと監視の欠如に対する懸念

ジョーンズ氏の行動は、生成AI技術を取り巻く監視の欠如に関する広範な懸念を浮き彫りにしています。特に今後の選挙を控え、有害コンテンツが広く拡散する可能性があるため、ジョーンズ氏はより厳格な安全対策の緊急の必要性を強調しています。彼は、コパイロットチームが毎日多数の製品フィードバックメッセージを受け取っており、すべての問題に迅速に対応することが非常に困難であることを指摘しています。.

著作権侵害とコンテンツの問題

Copilot Designerは、暴力的・性的な画像の作成に加え、著作権侵害の懸念も引き起こしています。このツールは、ディズニーのエルサやスター・ウォーズのフィギュアなど、著作権で保護されたキャラクターを描いた画像を生成することが確認されており、著作権法とMicrosoftのポリシーの両方に違反する可能性があります。ジョーンズ氏は、この問題は著作権侵害にとどまらず、有害で不快な画像が世界中に拡散されることのより広範な影響を強調しています。.

マイクロソフトのAI画像生成ツールをめぐる懸念へのシェーン・ジョーンズ氏の取り組みは、生成AI分野における強固な監督と規制の必要性の高まりを浮き彫りにしています。彼の行動は、規制当局とテクノロジー企業の両方に対し、AI技術の安全性と倫理的な利用を最優先するよう求める呼びかけとなっています。.