ユネスコ、AIがホロコーストの記憶を歪める可能性を懸念

ユネスコは、AI開発者が倫理基準を適用しない場合、生成AIがホロコーストの歴史を歪める可能性があると懸念を表明しています。月曜日に発表された報告書で、ユニセフは悪意のあるアクターによる生成AIの潜在的な乱用について警告しました。

関連記事: 中央銀行はAIにおいて「ゲームを上げる」必要がある、BISが警告

ユネスコの報告書は、悪意のあるアクターが技術を使用してホロコーストに関する誤情報、誤解を招く情報、および誤ったコンテンツを広める可能性があると警告しています。

若者は誤情報に脆弱

世界ユダヤ人会議と共同で発表された報告書は、AIのような新興技術への高い曝露により、若者が歪んだ情報を得るリスクが高いと警告しています。

これは、10歳から24歳の若者の80％が、学校の課題など様々なタスクにAIを使用しており、歪んだ情報にアクセスする可能性が高まっているという報告も示しています。

「AIの無責任な使用を通じて、ホロコーストの恐ろしい事実が薄められ、歪められ、または偽造されるのを許容すれば、反ユダヤ主義の爆発的な拡散と、これらの残虐行為の原因と結果についての私たちの理解の漸進的な減衰というリスクを負います。」

ユネスコ事務総長Audrey Azoulay。

報告書はまた、AIが「複雑な歴史を過度に単純化し、限られた範囲のソースと小さなイベントの選択を優先する」強い傾向を持っていることも強調しています。例えば、AI搭載検索エンジンのトップ画像結果の約60％から80％は、アウシュヴィッツ＝ビルケナウという1つのホロコーストサイトのみを表示します。

ユネスコ、倫理の執行を呼びかけ

報告書は、AIが既存のバイアスを永続化する可能性があり、ホロコーストもこれらのAIバイアスから免れないと述べています。すでにユネスコによると、ホロコーストに関する誤情報が蔓延しており、生成AIの使用により悪化する可能性があります。

関連記事: Meta AI、激化するAI競争の中でインドに拡大

Azoulayは、歪んだ情報から若者を保護するために倫理基準を執行することの重要性を強調しました。

「ユネスコのAI倫理に関する勧告を実施することは緊急の課題であり、若い世代が捏造ではなく事実を持って成長できるようにするためです。」

Azoulay。

報告書は、OpenAIのChatGPTやGoogleのBard（現在はGemini）などのAIモデルが、ホロコーストについて幻覚を抱き、決して起こらなかった出来事を詳細に説明したことを強調しています。ユネスコによると、これらのモデルは「ナチスがユダヤ人を川や湖に沈めたキャンペーンでホロコーストの概念を捏造しました。」

AIモデルは、これらの歪んだ物語を支持するために偽の引用を作成してきました。これらの事案を踏まえ、ユネスコはマルチステークホルダーアプローチによる課題解決を呼びかけました。1つの解決策は、2021年に加盟国が採択したAI倫理に関する勧告の迅速な実施です。

ユネスコはまた、テクノロジー企業に対し、公平性、透明性、人権、およびデューデリジェンスの原則を尊重するよう促しました。8社のテクノロジー企業が2月にユネスコ事務総長との間で、AIモデルの開発において倫理的アプローチを適用することを約束するコミットメントに署名しました。

CryptopolitanによるEnacy Mapakameのレポート