なぜCISAは、コアセキュリティに結びついたセキュアなAI設計を促すのか？

米国のサイバーセキュリティ・インフラセキュリティ庁（CISA）は、人工知能（AI）システムの開発段階において、セキュリティを組み込むことの重要性を強調しました。CISAが提唱するこの予防的なアプローチは、デプロイメント後に発生する可能性のある脆弱性の発生を防ぐことを目的としており、これは複雑で是正に莫大な費用がかかるシナリオになり得ます。同庁が求めるセキュアなAI設計は、セキュリティを後回しにするのではなく、設計および開発フェーズにシームレスに統合するという、より広範なキャンペーンと一致しています。

コアにおけるセキュリティ：CISAの継続的な使命

CISAは最近の投稿で、AI開発者に対し「デザイン時のセキュリティ（security by design）」パラダイムを採用するよう強く促し、AIの本質的にソフトウェアの一種であるという原則を強化しました。同庁は、AIが根本的にソフトウェアベースであることを強調することで、AIに関する概念を解明しようとしています。これにより、AIはあらゆるソフトウェアが求めるのと同じセキュリティ要件に従うことが明確になります。これは、セキュリティを周辺的な追加物ではなく内在的な構成要素として扱うという、長年にわたるグローバルなサイバーセキュリティ専門家の取り組みを反映しています。

視点の変化：外部性からコミットメントへ

CISAのジェン・イースタリー局長は、今年初頭の演説で、テクノロジー業界におけるセキュリティの認識における変革的な変化の必要性を強調しました。歴史的に、セキュリティは二次的な地位に追いやられ、そのコストはエンドユーザーに外部化されることが多かったです。イースタリー局長は、このアプローチの完全な見直しを呼びかけ、ソフトウェア開発ライフサイクルにセキュリティを組み込むという新たなコミットメントを提唱しました。さらに、イースタリー局長は責任配分の変更を提案し、ソフトウェア開発者がより大きな責任を負うべきだと示唆しました。

機械学習の相互接続された課題

CISAのブログ投稿は、機械学習の複雑さに注意を向け、そのコードの密接に織り込まれた性質を強調しています。特に、AIシステム内の単一の入力を変更すると、広範な影響が生じる可能性があります。この複雑な相互依存性は、Googleの研究者による2014年の画期的な論文で強調され、AI開発における未解決の技術的課題は「技術的負債の高利子クレジットカード」に例えられました。

AIに合わせたセキュリティプラクティス

ブログ投稿は、AIシステムにおけるデザイン時のセキュリティの必要性を認めつつも、AIが提示する独自の課題も認識しています。CISAは、AIソフトウェアにも同様に適用できる、必須のセクター非依存のセキュリティプラクティスのリストをまとめました。同庁は、脅威アクターが非AIソフトウェアコンポーネントの既知の脆弱性を悪用する事例があるため、これらのガイドラインを遵守することの重要性を強調しています。

AIセキュリティへの包括的なアプローチ

CISAは、設計、開発、デプロイメント、テスト、データ管理、システム統合、脆弱性およびインシデント管理など、AI開発のさまざまな側面を、確立されたコミュニティが期待するセキュリティプラクティスとポリシーが支配すべきだと強調しています。AIモデルファイル形式が処理される場合、信頼できないコードの実行を試みる試みを阻止するために、堅牢な対策を講じる必要があります。さらに、潜在的な脅威に対する追加の保護策として、メモリセーフな言語の使用が推奨されています。

AIエンジニアリングにおける説明責任と透明性

技術的な保護策に加えて、CISAはAIエンジニアリングコミュニティに対し、説明責任と透明性を高めるプラクティスを採用するよう促しています。これには、CVE（共通脆弱性識別子）などの脆弱性識別子の実装と、AIモデルとその依存関係の包括的なソフトウェアBOM（Bill of Materials）の維持が含まれます。プライバシーの懸念も無視されておらず、同庁はデフォルトで基本的なプライバシー原則を遵守するよう呼びかけています。

AIセキュリティの転機

CISAのAIセキュリティ・バイ・デザインに対する情熱的な呼びかけは、AI開発の分野における重要な分岐点を示しています。設計と開発の最前線にセキュリティを置くことで、同庁は将来の重大なセキュリティ侵害を回避する可能性のあるパラダイムシフトを提唱しています。AIシステムがますます普及する世界において、この予防的な姿勢は、より安全で回復力のあるデジタルランドスケープへの道を開く可能性があります。