アメリカが次期dent選挙に向けて準備を進める中、政治的な誤情報の拡散への懸念から、AI企業Midjourneyは、ジョー・バイデン氏やドナルド・トランプ氏といった著名政治家の画像の禁止を検討している。この決定は、偽画像やディープフェイクの作成に関わるdent事件を受けて行われたもので、こうしたコンテンツが世論や選挙結果に影響を与える可能性について懸念が高まっている。.
誤情報の脅威への対応
AI画像生成ツールで知られるMidjourneyは、テクノロジーを用いた公共の言論操作をめぐる議論の中心に立たされています。報道によると、同社は政治家、特に誤解を招いたり虚偽の情報を拡散したりする可能性のある人物を描いた画像の作成と配信を禁止することを検討しています。この動きは、AI生成コンテンツが政治的利益のために、あるいは選挙期間中に不和を煽るために利用されるリスクを軽減するための積極的な措置と見られています。.
Midjourney CEOの声明とプラットフォームポリシー
ミッドジャーニーのCEO、デイビッド・ホルツ氏は、Discordのチャットセッションで同社の意図を伝えたと報じられている。ホルツ氏は、トランプ氏のような著名人を起用した画像作成の魅力を認めつつも、特に現在の政治情勢においては注意を払うことが重要だと強調した。ミッドジャーニーは既に、著名人やイベントの画像の制限など、誤解を招くコンテンツの作成を防ぐためのポリシーを整備しているが、政治的な画像の禁止は、誤情報対策におけるより積極的な姿勢を示している。.
課題と限界
AIツールの使用を規制する取り組みにもかかわらず、Midjourneyは偽画像やディープフェイクの拡散を効果的に抑制する上で課題に直面しています。ブルームバーグの調査によると、同社は誤解を招くコンテンツの作成を防ぐための規則を導入しているものの、依然として抜け穴が残っており、改変された画像が特定の規制を回避できることが明らかになりました。さらに、特定の政治画像を禁止することの有効性は依然として不透明です。AIによる偽情報キャンペーンという根本的な問題と、それが選挙の公正性に及ぼす潜在的な影響に対処できない可能性があるためです。.
業界全体での誤情報対策
Midjourneyの議論は、テクノロジー業界における政治的偽情報対策の幅広い取り組みと軌を一にするものです。ChatGPTやMetaといったプラットフォームは、AI生成コンテンツにタグを付けたり検出したりする戦略を模索しており、ユーザーに虚偽の可能性のあるメディアをdentツールを提供することを目指しています。しかし、こうした対策は操作されたコンテンツのdentには役立つかもしれませんが、公共の言説形成や選挙への影響におけるAI技術の悪用がもたらす複雑な課題に完全には対処できない可能性があります。.
