生成AI（Gen AI）のグローバルな影響への対応

生成AI（Gen AI）の急速な台頭とその変革的な力、特に広く利用されているトランスフォーマー・アーキテクチャによって象徴されるものは、デジタル環境を大きく変えました。OpenAIのChatGPTのようなツールは、最先端のAI機能へのアクセスを民主化し、最小限のインフラや事前の経験で、さまざまなメディアで高品質なコンテンツを生成することをユーザーに可能にしています。Gen AIは多くの利点をもたらしますが、その普及と影響は世界的に均一ではなく、一部の国が他国よりも多くの恩恵を受けています。

低リソース国におけるリスク

Gen AIシステムの恩恵は、主に英語などの高リソース言語を持つ国々に偏っており、低リソース国は不利な立場に置かれています。このアクセスと影響の格差は、暴力的な紛争や不安定さの歴史を持つ国々、すなわちリスク重要国（risk-critical）ではより顕著になります。これらの地域では、Gen AIに関連する潜在的なリスクがさらに悪化します。

誤情報と偽情報

規制環境が整備されていない国々におけるGen AIの普及は、誤情報や偽情報の拡散に関する懸念を生み出しています。リスク重要国の悪意のある行為者は、ソーシャルメディアプラットフォームで観察されたものと同様に、Gen AIの機能を利用して世論を操作することができます。その結果は深刻であり、真実の追求はますます困難になっています。

合成メディアとディープフェイク

ディープフェイクを含む合成メディアの戦略的な使用は、リスク重要国において重大な脅威となります。メディア統制が限られている中で、ディープフェイクの蔓延に対抗することは困難であり、Gen AIの使用によってさらに悪化しています。イスラエル・ハマス紛争などの最近の出来事は、Gen AIが確立されたメディア生態系を持つ国々でさえ新たなリスクをもたらすことを示しています。

性差別に基づくハラスメント

貞操観念が強く重視される社会では、性差別に基づくハラスメントは女性や少女を対象とした手段として一般的です。Gen AIはこの問題を増幅させ、ハラスラーが有害なコンテンツを作成・拡散しやすくしています。このようなケースの現実世界での影響は大きく、個人に具体的な被害をもたらすことがあります。

データのバイアス

AIモデル内のバイアスはよく文書化されている問題です。低リソース国では、文脈の専門家にアクセスできないため、開発者がバイアスを特定して修正することが困難です。その結果、リスク重要市場ではGen AI開発者からの対応時間が長くなり、バイアスの悪影響に対してより脆弱になります。

緩和のための推奨事項

これらのリスクに対処することは、Gen AIの責任ある利用を確保し、特にリスク重要国における悪影響を軽減するために不可欠です。以下の推奨事項は、この方向への重要な一歩です。

多様な評価チーム

Gen AIモデルは、多様な専門家のチームによる内部および外部評価を受けるべきです。外部の専門家がGen AIモデルのリスクを評価するプロセスであるレッドチーム演習は、補償や居住に基づいた制限を設けず、多様な地理的場所からの参加者に開放されるべきです。これにより、継続的なリスクを効果的に特定し、対処することができます。

コンテンツの帰属と安全ガードレール

偽情報に対抗するため、Gen AIによって生成されたコンテンツには、そのAI由来を示す透かしを明確に表示する必要があります。トレーニングデータのバイアス評価、グラフィックなトレーニングデータの制限、性的コンテンツ生成を禁止するポリシーなど、安全ガードレールを優先すべきです。コンテンツポリシーを実装する際には、文化的特殊性と文脈の専門家の関与が重要であり、関連性を維持するために継続的な更新が必要です。

多言語のユーザー報告システム

大規模なGen AI企業は、リスク重要国の言語でユーザー報告システムを利用可能にするべきです。現在、そのような報告システムの可用性は英語に限定されていることが多く、これらの国のユーザーは問題や懸念に対処する手段が限られています。