サイバーセキュリティにおけるAI：脆弱性検出における混在する結果

NCCグループが最近発表したレポートでは、人工知能（AI）とサイバーセキュリティの交差点が精査され、コードの脆弱性検出の文脈における生成AIの有望性と限界の両方に光を当てました。「Safety, Security, Privacy & Prompts: Cyber Resilience in the Age of Artificial Intelligence」と題されたこのレポートは、さまざまなAIサイバーセキュリティの使用事例の包括的な分析を提供しています。

生成AIとコードの脆弱性

2022年後半における生成AIテクノロジーの爆発的な成長は、サイバーセキュリティへの影響に関する議論と懸念を引き起こしました。この議論の焦点の一つは、生成AIチャットボットがもたらす潜在的なセキュリティリスクにあります。これらのリスクは、機密性の高いビジネス情報の意図しない公開から、悪意のある行為者がこれらの高度な自己学習アルゴリズムを悪用してサイバー攻撃を強化する可能性まで多岐にわたります。

レポート内で関心の高い主要な領域の一つは、生成AIチャットボットをコードの脆弱性評価に使用することの実現可能性です。これらのAI システムは、ソースコードを提供された場合、静的分析の対話形式を実行し、セキュリティ上の弱点を正確に特定できるでしょうか？レポートの調査結果は、結果が混在していることを示しています。生成AIはコードおよびソフトウェア開発において有望な可能性と生産性の向上を示していますが、コードの脆弱性を検出する効果はばらつきがあります。

一方、レポートは、サイバーセキュリティの分野における機械学習（ML）モデルの有望な応用を強調しています。具体的には、MLモデルは、新しいゼロデイ攻撃を特定し、悪意のあるファイルからユーザーを保護するための自動対応を可能にする上で重要な役割を果たすことができます。この概念を検証するために、NCCグループはロンドン大学カレッジのデータ集約科学博士課程訓練センター（CDT DIS）の修士課程学生をスポンサーし、マルウェアを特定するための分類モデルの開発を支援しました。

この取り組みの結果は説得力があります。分類モデルは98.9%という印象的な精度率を達成しました。この成功は、新興の脅威を迅速に特定し軽減することで、MLモデルがサイバーセキュリティの防御を強化する可能性を強調しています。

AIを活用した脅威インテリジェンスの活用

reportで探求されたもう一つの重要な側面は、脅威インテリジェンスです。これはプロアクティブなサイバーセキュリティの重要な構成要素です。脅威インテリジェンスには、新たに特定された脆弱性、進化しつつあるエクスプロイト、および攻撃者の行動における新興トレンドに関する貴重な洞察を提供するさまざまなオンラインデータソースの継続的な監視が含まれます。このデータは、フォーラム、ソーシャルメディア、ダークウェブからの構造化されていないテキストの形式であることが多く、情報の宝庫となり得ます。

機械学習モデルは、このデータを処理し、重要なサイバーセキュリティのニュアンスを抽出し、攻撃者の戦術、技術、手順（TTP）におけるパターンとトレンドを特定する上で重要な役割を果たすことができます。これらの洞察を武器として、防衛側は、新たな脅威がビジネスや技術的風景に重大なリスクをもたらす場合、特に追加の監視または制御システムを実装するために、プロアクティブかつ先制的なアプローチを取ることができます。

急速な技術的進歩が特徴の時代において、サイバーセキュリティにおけるAIの役割は進化し続けています。生成AIチャットボットはコード開発の特定の側面で有望性を示していますが、脆弱性の検出における信頼性は継続的な探求の対象です。一方、MLモデルは、新たなサイバー脅威の特定と対抗において高い可能性を示しており、防衛側の兵器庫において貴重な資産となっています。

サイバーセキュリティにおけるAIは、万能の解決策ではないことを認識することが重要です。むしろ、人間の専門知識と警戒心を補完するものです。人間のサイバーセキュリティ専門家とAIシステムとのパートナーシップは、自動化の力を活用することと、絶えず変化する脅威の風景をナビゲートするために必要な重要な人間の監督を維持することのバランスを取るために不可欠です。