国家安全が脅かされる – 英国のAI研究所、生成AI技術の導入に慎重さを求める

この動きにより、英国の最高水準の人工知能（AI）国立研究所であるアラン・チューリング研究所は、政府に対し、生成AIの導入に「レッドライン（許容できないライン）」を設定するよう求める包括的なレポートを発表しました。特に、技術が人間の直接の監視なしに不可逆的な行動を取ることができる文脈においてです。金曜日の夜遅くに公開されたこのレポートは、現在の生成AIツールの信頼性の低さとエラーの発生しやすさ、特に国家安全保障という高リスクなシナリオにおける懸念を強調しています。

生成AIの信頼性不足と国家安全保障上のリスク

アラン・チューリング研究所のレポートは、生成AIツールの現在の欠点を浮き彫りにし、特に重要な国家安全保障の文脈において、その信頼性の低さとエラーの発生しやすさを強調しています。これは、生成AIが国家安全保障上のリスクをどのようにして意図的または偶発的に引き起こすかを考慮するための、根本的なマインドセットの転換が必要であることを示しています。レポートは、ユーザーがAI生成の出力に過度に依存することで、潜在的に欠陥のある情報に疑問を呈する姿勢が弱まる可能性があることを示唆しています。

レポートは特に、自律型エージェントを、国家安全保障の文脈において厳格な監視が求められる生成AIの主要な応用例として挙げています。技術が国家安全保障分析を加速させる可能性を認めつつも、自律型エージェントには人間レベルの推論能力がなく、失敗を避けるために不可欠なリスクに対する直感的な理解を再現できないと警告しています。 

提案された緩和策には、自律型エージェントが行った行動や決定の記録、生成AIの出力の各段階への警告の付与、最悪のシナリオの文書化が含まれます。

政府への推奨事項と厳格な制限

アラン・チューリング研究所は、核の指揮・統制、および警察活動や刑事司法といった潜在的に存亡に関わらない分野など、「完全な信頼」が求められる領域において厳格な制限を推奨しています。レポートは、重要なインフラを制御するAIシステムに対して、他の技術におけるブレーキシステムに似た安全装置の実装を提案しています。しかし、運用スタッフの慎重さを共有しない可能性のある上級管理者にとって、特に制限とリスクを考慮することが重要であると強調しています。

レポートはまた、生成AIの悪意ある使用を安全上の懸念として指摘し、この技術が虚偽情報、詐欺、および児童性的虐待材料などの既存の社会的リスクを増幅することに注意しています。正確性と透明性の要件に縛られない悪意のある行為者が脅威となります。レポートは、NVIDIAなどのGPUメーカーからのコミットメントを要求し、国際的な政府間の調整を行う、改ざんに強い透かし機能に対する政府の支援を推奨しています。実装への課題は困難であると認められています。

アラン・チューリング研究所による生成AIへの「レッドライン」の緊急呼びかけにより、このレポートは技術革新と国家安全保障の微妙な交差点を航行します。研究所は、現在の生成AIツール、特に高リスクなシナリオにおける信頼性の低さを認識し、厳格な制限と安全対策の必要性を強調するパラダイムシフトを重視しています。 

英国政府がAIの規制に苦闘する中、これらの推奨事項は、自律型エージェントや悪意ある使用に関連するリスクを軽減するための積極的なアプローチを促すロードマップとして機能します。残された問いは、規制枠組みが革新とセキュリティのバランスを取り、複雑な社会技術的風景における生成AIの責任ある進化を確保するためにどのように適応できるかということです。課題は、潜在的な脅威から守りながら、継続的な技術進歩を促進する効果的な政策へとこれらの推奨事項を翻訳することにあります。