世界のサイバーセキュリティ機関がAIセキュリティガイダンスにおける「セキュア・バイ・デザイン」アプローチを提唱

英国国家サイバーセキュリティセンター（NCSC）と米国サイバーセキュリティ・インフラセキュリティ庁（CISA）は、世界22のサイバーパートナーと協力し、人工知能（AI）システムのセキュリティ確保のための包括的なガイドラインを発表しました。「セキュア・バイ・デザイン（設計段階からセキュリティを確保する）」という理念を強調するこのガイドラインは、AI開発の重要な側面を深く掘り下げ、サイバー脅威や脆弱性に対するAI技術の強化を目指しています。.

「Secure by Design（設計によるセキュリティ）」と題されたこの共同ガイダンスは、AIおよび機械学習アプリケーションに関連するセキュリティリスクの増大に焦点を当て、特にこれらのシステムで使用されるサプライチェーンの脆弱性とモデルに起因する懸念に対処しています。.

セキュリティの柱

「セキュア・バイ・デザイン」という包括的なテーマの下、ガイドラインはセキュアな設計、セキュアな開発、セキュアな導入、セキュアな運用・保守という4つの主要領域に焦点を当てています。これらの柱は、AIシステムを潜在的なサイバー脅威から保護するための堅牢なフレームワークの構築を目指しています。.

最初の柱は、概念化の初期段階から、AIシステムの本質と構造にセキュリティ中心の精神を深く浸透させるという、紛れもなく極めて重要な意義を、誠実に強調しています。この柱は、開発者がシステムの基盤アーキテクチャに、セキュリティに関する考慮事項への高い揺るぎない意識を丹念に浸透させ、サードパーティのモデルやAPIの利用に複雑に絡み合う脆弱性を効果的かつ予防的に軽減・緩和するという、譲れない必要性を断固として強調し、明確に示しています。.

後続の柱は、基本原則をシームレスかつ有機的に継承し、前述のセキュリティ パラダイムの範囲を開発段階の複雑で微妙な領域にまで拡張して解説します。. 

この柱は、セキュリティ体制の神聖な神聖さを損なう可能性のある予期しないシステム動作の発現を未然に防ぐという揺るぎない決意のもと、外部 API の潜在的な欠陥や不具合に対する綿密で細心の注意をdentた調査、外部ドメインへのデータ転送の範囲を思慮深く慎重に制限すること、トレーニング データを熱心に徹底的に調査およびサニタイズすることなど (ただしこれらに限定されない) を含む、包括的で賢明な一連の対策を熱心にかつ熱心に推進します。.

グローバルAIセキュリティコンプライアンスの課題への対応

このガイドラインはAIセキュリティに関する国際協力に向けた重要な一歩となるものの、執行面で課題が生じています。Armisの対外・政府関係担当副dent あるトム・グアレンテ氏は、ガイドライン策定に関与していない国々にとって、これらの勧告を実施することが困難になる可能性があると指摘しています。特に中国、ロシア、イランといった主要国が国際的なAI規制へのコミットメントをまだ示していない状況において、世界的な遵守をどのように確保するかという疑問が生じます。.

グアレンテ氏は、実施の容易さにおける潜在的な格差を指摘し、ガイドラインの起草に関わった国々は、策定プロセスから除外された国々と比べて、遵守がより容易であると考えるかもしれないと示唆している。.

これらのガイドラインは、急速に進化するAI環境におけるサイバーセキュリティの重要性を広く認識しているものの、これらの対策を世界規模で施行するには依然として課題が残っています。グアレンテ氏の懸念は、AIセキュリティの確保に向けたより広範な国際的なコンセンサスとコミットメントの必要性を改めて浮き彫りにしています。.

AIセキュリティガイダンスにおける国際協力と課題

国際社会がAIセキュリティの共通基準の確立に向けて大きく前進する中、真の課題は、その広範な導入と施行を確実にすることです。国際社会はどのようにしてこのギャップを埋め、協力体制に参加していない国々の賛同を得ることができるでしょうか？AIのセキュリティ確保に向けた道のりは確かに進行中ですが、今後は複雑な課題を乗り越え、この変革をもたらす技術を守るための統一されたコミットメントを育むことが不可欠です。