ユネスコはAIがホロコーストの記憶を歪める可能性を懸念

ユネスコは、AI開発者が倫理基準を適用しない場合、生成AIがホロコーストの歴史を歪曲する可能性があると懸念を表明した。UNI CEF UNI月曜日に発表した報告書の中で、悪意のある者による生成AIの悪用の可能性について警告した。.

関連記事： 中央銀行はAI対策を「強化」する必要があるとBISが警告

ユネスコの報告書は、悪意のある人物がこの技術を利用してホロコーストに関する偽情報、誤報、誤解を招くコンテンツを拡散する可能性があると警告している。.

若者は間違った情報に影響を受けやすい

この 報告書は、若者はAIなどの新興技術に頻繁にさらされているため、歪んだ情報を受け取るリスクが高まっていると警告している。

また、10歳から24歳までの若者の80％が学校の課題などのさまざまな作業にAIを使用しており、歪んだ情報にアクセスする可能性が高まっていることも報告されている。.

「AIの無責任な使用によってホロコーストの恐ろしい事実が薄められたり、歪曲されたり、偽造されたりするのを許せば、反ユダヤ主義が爆発的に広がり、これらの残虐行為の原因と結果についての理解が徐々に薄れていく危険性がある。」

ユネスコ事務局長オードリー・アズレ氏。.

報告書はまた、AIが「複雑な歴史を過度に単純化し、限られた情報源や限られた出来事を優先する」傾向がtronことも指摘している。例えば、AI搭載検索エンジンの検索結果上位に表示される画像のうち、約60%から80%には、ホロコースト跡地であるアウシュヴィッツ＝ビルケナウのみが表示されています。.

ユネスコは倫理を強化するための行動を呼び掛けている

報告書は、AIは 既存の偏見を永続させる可能性があり、 ホロコーストもこうしたAIの偏見から逃れることはできないと主張している。ユネスコによると、ホロコーストに関する偽情報は既に蔓延しており、生成AIの利用によってさらに悪化する可能性がある。

こちらもご覧ください: AI競争の激化の中、Meta AIがインドに進出

アズレイ氏は、若者を歪曲された情報から守るために倫理基準を施行することの重要性を強調した。.

「若い世代が捏造ではなく事実に基づいて成長できるように、ユネスコのAI倫理に関する勧告を実施することが急務です。」

アズレイ。.

報告書は、OpenAIのChatGPTやGoogleのBard（現Gemini）といったAIモデルがホロコーストについて幻覚を起こし、実際には起こらなかった出来事を詳細に描写していることを指摘している。ユネスコによると、これらのモデルは「ナチスがユダヤ人を川や湖で溺死させたという水死作戦を捏造することで、ホロコーストの概念を捏造した」という。

AIモデルは、こうした歪曲された物語を裏付けるために、虚偽の引用文も作成しています。こうした事例を踏まえ、ユネスコは、この課題に対処するために、多様な利害関係者によるアプローチを求めました。解決策の一つとして、 「AI倫理に関する勧告」 。

ユネスコはまた、テクノロジー企業に対し、公平性、透明性、人権、デューデリジェンスの原則を尊重するよう強く求めた。 8つのテクノロジー企業が ユネスコ事務局長宛ての誓約書に署名し、AIモデルの開発において倫理的なアプローチを適用することを約束した。

Enacy MapakameによるCryptopolitan レポート