グローバルなサイバーセキュリティ機関がAIセキュリティガイダンスにおいて「設計段階からのセキュリティ」アプローチを提唱

英国のナショナル・サイバーセキュリティセンター（NCSC）と米国のサイバーセキュリティ・インフラストラクチャ・セキュリティ庁（CISA）は、世界中の22のサイバーパートナーと共に、人工知能（AI）システムのセキュリティを確保するための包括的なガイドラインを発表しました。「設計段階からのセキュリティ」の哲学を強調し、このガイダンスはAI開発の重要な側面に踏み込み、サイバー脅威や脆弱性から技術を強化することを目指しています。

「Secure by Design（設計段階からのセキュリティ）」と題された共同ガイダンスは、AIおよび機械学習アプリケーションに関連するセキュリティリスクの増大を強調し、特にサプライチェーンの脆弱性やこれらのシステムで使用されるモデルに起因する懸念に対処しています。

セキュリティの柱

「Secure by Design（設計段階からのセキュリティ）」という大テーマの下、ガイドラインは4つの主要な領域に焦点を当てています：安全な設計、安全な開発、安全なデプロイメント、および安全な運用と保守です。これらの柱は、潜在的なサイバー脅威からAIシステムを守るための堅牢なフレームワークを作成することを目的としています。

最初の柱は、概念化の非常に初期段階から、AIシステムの本質と構造にセキュリティ中心の倫理観を深く根付かせることの不可逆的かつ最重要な重要性を慎重に強調しています。この柱は、開発者がシステムの中核的なアーキテクチャにセキュリティ考慮事項に対する高まった揺るぎない意識を注ぎ込むことの交渉不可能な必要性を断固として主張し、第三者モデルやAPIの使用に関連して複雑に織り込まれた脆弱性を効果的かつ予防的に軽減・緩和することを目的としています。

基盤となる原則にシームレスかつ有機的に続く2番目の柱は、前述のセキュリティパラダイムの範囲を、開発フェーズの迷宮入りした細部のある領域へと展開・拡張します。 

この柱は、外部APIの潜在的な欠陥や欠陥に対する厳格かつ細心の注意を払った審査、外部ドメインへのデータ転送の範囲と野心の慎重かつ警戒深い制限、およびシステムセキュリティの聖域を損なう可能性のある予期せぬ望ましくない行動の現れを回避・防止するための揺るぎないコミットメントを持って、トレーニングデータの徹底的な審査と浄化を含む、包括的で賢明な措置の幅広い配列を熱意と情熱で支持しています。

グローバルなAIセキュリティコンプライアンスにおける課題への対処

ガイドラインがAIセキュリティに関する国際協力への重要な一歩を表しているにもかかわらず、執行に関する課題が生じます。Armisの外部および政府関係担当副社長であるTom Guarenteは、ガイドラインの開発に関与していない国々がこれらの推奨事項を実装することの潜在的な難しさを強調しています。これにより、中国、ロシア、イランのような主要プレイヤーがまだグローバルなAI規制にコミットしていない中で、グローバルな遵守をどのように確保するかという疑問が提起されています。

Guarenteは、ガイドラインの作成に関与した国々が、開発プロセスから除外された国々と比較して遵守することがより簡単である可能性のある、実装の容易さにおける潜在的な格差を指摘しています。

ガイドラインは急速に進化するAI環境におけるサイバーセキュリティの重要な役割に対する集団的な認識を提供していますが、これらの措置をグローバル規模で執行することには課題が残っています。Guarenteの懸念は、AIセキュリティを確保するためのより広範な国際的なコンセンサスとコミットメントの必要性を反映しています。

AIセキュリティガイダンスにおける国際協力と課題

AIセキュリティの共通基準確立に向けて世界が重要な一歩を踏み出す中、真の課題は広範な採用と執行を確保することにあります。国際社会はどのようにしてギャップを埋め、協力的な取り組みに参加していない国々からの支持を得ることができるでしょうか？AIのセキュリティ確保への旅は確かに始まっていますが、先への道は複雑さを乗り越え、この変革的な技術を守るための統一されたコミットメントを育むことを要求しています。