ドイツ、AIによる偽のホロコースト画像の拡散についてソーシャルプラットフォームに警告

ドイツは、AIによるホロコーストに関する偽画像の拡散についてソーシャルメディアプラットフォームに警告を発した。政府とホロコースト記念機関は、歴史を歪曲し、矮小化しているとして、ソーシャルメディアプラットフォームに対し、偽画像の拡散を止めるよう要請した。.

強制収容所の記念施設や資料センターは最近の書簡で、第二次世界大戦中にナチスがドイツで600万人以上のユダヤ人を殺害した事件に関して、dent。いわゆるAIによる捏造画像や偽造画像が急増していることを批判し、懸念を表明した。これらの画像には、強制収容所の囚人と解放者との面会や、有刺鉄線の向こう側にいる子供たちなど、捏造されたを感情的に描いたものが含まれている

ドイツはAIによる偽のホロコースト画像の拡散を阻止したいと考えている

関係団体が送付した書簡の中で、彼らは 指摘した 。また、そのような画像は、本物の歴史文書の利用者の不信感を煽る可能性があるとも述べた。ドイツの文化・メディア担当国務大臣であるヴォルフラム・ワイマー氏は、記念機関が今回の件で取った措置と努力を支持すると述べ、これは正しい判断だと明らかにした。

ウルフラム氏はまた、古代のdentをAIで生成した画像にマークを付け、必要に応じてソーシャルメディアプラットフォームから削除するという決定を支持すると述べた。これは、ナチス・ドイツの恐怖政治下で殺害され、迫害された何百万人もの人々への敬意を表するものだと述べた。記念施設からの書簡によると、画像の作成者はオンラインで注目を集め、金儲けをするために画像を利用しているようだと指摘されている。.

これらの団体はまた、加害者たちが事実を歪曲し、被害者と加害者の役割をすり替え、修正主義的な物語を広める意図もあったと指摘した。これらの施設には、ベルゼン、ブーヘンヴァルト、ダッハウなどの強制収容所の記念館などがあり、ユダヤ人だけでなくロマやシンティの人々を含む他の人々も殺害された。彼らはソーシャルメディアプラットフォームに対し、ホロコーストに関する偽のAI画像に対し、ユーザーからの報告を待つのではなく、積極的に対策を講じるよう求めた。.

ホロコースト組織はAI生成画像にラベルを付けることを望んでいる

さらに、彼らはプラットフォームに対し、画像に明確なラベルを貼るよう要請しました。そうしないと、画像を生成したユーザーが収益を得ることができなくなると考えているからです。偽のテキスト、画像、動画を含む低品質のAI画像の拡散は、多くの専門家の間で懸念を引き起こしています。彼らは、それが情報環境を汚染し、ユーザーが真実と虚偽を見分けるのを困難にすると考えています。このdent 、AI企業、特にチャットボット「Grok」を所有するイーロン・マスクのxAIが現在取り組んでいる問題に続くものです。.

同社はここ数週間、一部のユーザーが女性や未成年者の性的ディープフェイク画像を数千枚作成し、複数のソーシャルメディアプラットフォームに拡散したことで、圧力にさらされている。この脅威を受け、複数の 国 に対処するための適切な安全対策を講じるよう求める声もdentている。インドネシアなどの国々は、事態が解決するまでこのチャットボットを一時的に禁止すると発表している。

一方、プラットフォームは、GrokとXのユーザーがディープフェイク画像を生成する行為が違法とされる地域では、ジオブロックを実施すると発表しました。しかし、この新たな安全対策がスタンドアロンアプリケーションに適用されるのか、それともウェブサイトに適用されるのかはまだ不明です。また、これらの措置によってユーザーがディープフェイク画像を生成するのを阻止できるのか、あるいはサービスにアクセスするための新たな手段を探すよう促されるのかも、まだ分かりません。.