CISAが新たなAI安全対策を発表

サイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）は、国土安全保障省（DHS）のAI安全への重点を反映した新たな推奨事項を発表しました。これは、最近特別安全・セキュリティボードの設立によって強調されました。

重要セクターにおけるAIセキュリティのためのCISAガイドライン

新たにリリースされたガイドラインは、農業、医療、情報技術などの分野でカバーされる6つの重要インフラとして指定されたセクターの所有者および運用者向けに設計されています。このガイドラインは、責任あるAI技術を使用してAIシステムを安全かつ回復力のあるものにするために必要な最小限のセットです。これらの助言アプローチは、AI関連プロセスのガバナンス、リスク評価、継続的な管理に関するガイダンスを提供します。

運用者は、NISTのAIリスク管理フレームワークを採用して、AI実装に関連する影響とリスクを継続的に評価できます。これには、AI依存関係の場所の特定、技術が環境に与える影響の評価、および提起された脆弱性への対処が含まれます。ガイドラインは、AI使用のインベントリを実施し、AI関連の安全リスクを報告するための特別な手順を作成するよう促す規則を推奨しています。

CISAは、CISOがAIサプライチェーンの重要パスを理解し、セキュリティギャップを特定するためにAIシステムをテストする必要があることを認識しています。特定の領域を強調することで、インフラストラクチャの所有者は、設計上の欠陥、サイバー攻撃、物理的セキュリティ侵害を含む広範なAI関連リスクに対処します。

重要インフラにおけるAIの二面的な役割

文書は、AIが外部環境の広範なセンシング、顧客サービスの自動化、物理的セキュリティの向上、予測の精度向上を通じて、重要インフラ管理を変革する機会を持っていることを示しています。 

この革新はインフラシステムを全体的に堅牢にするのに役立ちますが、より新しい形態の攻撃や障害に対してより露出される可能性もあります。

これらのガイドラインは、DHSのより広範なイニシアチブの一部であり、AI技術を国家安全保障の枠組みに組み込む複雑さを克服することを目指しています。AIの普及は二面的です。このゲームチェンジングテクノロジーの展開と、重要システムのための敏感なインフラに対する脅威を国土安全保障長官Alejandro Mayorkasは強調します。リスクグループは状況に非常に反応的であり、専門家の協力を通じて隠れた危険を特定し軽減するための戦略的イニシアチブを実行しています。

DHSのAIイニシアチブ

DHSは年初にAI戦略を発表し、DBDSロードマップを策定し、AI Corpsの立ち上げを発表しました。このチームは2024年に50人の専門家で構成され、スキルのある人材として引用され、機関のAI能力を強化することを目指しています。新しいボードには、OpenAIからのSam AltmanやAlphabet Companyを代表するSundar Pichaiなど、テクノロジー分野の重鎮が含まれます。

新しいAIガイドラインにおけるCISAの使命は、バイデン政権の最近のAI関連大統領令の下での義務を果たすことだけでなく、社会のさまざまなセクターで実施され得る同様のリスク分析の最初の例を設定することも含まれます。このように、米国政府は今日の人工知能と強く相関する「重要インフラセキュリティマトリックス」におけるリーダーシップを強調しています。