ドイツ、AIによるホロコースト偽画像の拡散についてソーシャルプラットフォームに警告

ドイツは、AIによるホロコーストの偽画像の拡散についてソーシャルメディアプラットフォームに警告を発した。政府とホロコースト記念施設は、歴史を歪め軽視していると主張する偽画像の拡散を止めるよう、ソーシャルメディアプラットフォームに要請している。

強制収容所記念施設や記録センターは、第二次世界大戦中にドイツで600万人以上のユダヤ人が殺害されたことを巡り、いわゆる AI slop や偽造画像の急増を批判する最近の書簡で懸念を表明しました。これらの画像には、強制収容所の収容者と解放者の出会いや、鉄条網の向こう側の子どもたちなど、創作された出来事の感情的なイラストが含まれています。

ドイツ、AIによるホロコースト偽画像の拡散を阻止したい

組織から送られた書簡の中で、彼らは指摘しているように、AI生成コンテンツは長昔に起きた深刻な出来事を軽視することで歴史を歪めている。彼らは、そのような画像が本物の歴史的文書の利用者の間で不信感を煽る要因となり得ると述べた。ドイツの文化・メディア担当州大臣であるヴォルフラム・ヴァイマー氏は、この件において記念施設が取った措置や努力を支持しており、これが取るべき正しい一歩であることを明らかにした。

ヴォルフラム氏はまた、古代の出来事を描いたAI生成画像にラベルを付け、必要に応じてソーシャルメディアプラットフォームから削除するという決定を支持すると述べた。彼は、これはナチス・ドイツのテロ政権の下で殺害され、迫害された何百万人もの人々への敬意の問題だと述べた。記念施設の書簡によれば、画像の作成者はオンラインで注目を集め、収益を得るためにこれらを使用しているように見受けられると指摘されている。

組織はまた、加害者側は事実を薄め、被害者と加害者の役割を入れ替え、修正主義的な物語を広める意図もあったと述べた。対象となる施設には、ベルゼン、ブッフェンヴァルト、ダッハウなどの収容所記念センターが含まれており、ユダヤ人だけでなく、ロマやシンティの人々も殺害された場所である。彼らは、ユーザーからの報告を待つのではなく、ホロコーストに関する偽AI画像に対してソーシャルメディアプラットフォームが積極的に行動を起こすよう求めた。

ホロコースト関連組織、AI生成画像のラベル付けを要望

さらに、彼らはプラットフォームに対して明確なラベル付けを求めた。それは、画像を生成したユーザーがそれらを収益化できなくなることを防ぐためだと信じている。偽のテキスト、画像、または動画を含む低品質なAI生成コンテンツ（スロップ）の拡散は、多くの専門家の間で警報を鳴らしている。彼らは、これが情報環境を汚染し、ユーザーが真実と虚偽を見分けることを困難にすると考えている。この事案は、チャットボット「Grok」を所有するElon MuskのxAIなどのAI企業が現在対応に追われている事案に続くものである。

同社は過去数週間、特定のユーザーが女性や未成年者の性的に露骨なディープフェイク画像を数千枚生成し、複数のソーシャルメディアプラットフォームで拡散させたことについて圧力を受けてきた。この脅威を受け、複数の各国の指導者が同社に警告を発し、他の国々はこれらの事案に対処するための適切な安全対策の開発を求めている。インドネシアのような国々も、問題が解決するまでチャットボットを一時的に禁止すると発表した。

一方、プラットフォームは、行為が違法とみなされる地域において、GrokおよびXユーザーが人物のディープフェイクを生成する機能を地理的にブロックすると確認した。しかし、新しい安全対策がスタンドアロンアプリまたはウェブサイトにも適用されるかどうかは不透明である。また、これらの措置がユーザーによる此类画像の生成を阻止するのか、それともユーザーを新たなアクセス方法の模索に追いやるのかについても、まだ見極めが必要である。