研究1は、生成AIの展開における深刻なセキュリティギャップを特定しdentた

C スイート幹部の 82% は、安全で信頼できる AI が重要だと考えています。しかし、そのうち GenAI に関連する取り組みにセキュリティを組み込んでいるのはわずか 24% です。これは、RSA Conference 2024 で発表された IBM と Amazon Web Services の共同調査による新しい調査結果です。この調査は、生成型 AI に重点を置き、AI の安全なユース ケースを推進する方法に関する C スイート幹部の見解に焦点を当てた調査の結果を詳細に示しています。IBM の報告によると、回答者の 24% だけが生成型 AI のdentでセキュリティの側面を考慮しており、約 70% はイノベーションがセキュリティよりも優先されると答えています。

イノベーションとセキュリティのトレードオフ

多くの経営幹部は、予測不可能なリスクがAI（ジェネレーションAI）の取り組みに影響を与えることを懸念していますが、セキュリティを優先していません。AIの脅威ランドスケープが完全に現実のものとなるまでには至っていませんが、ChatGPTなどの技術を用いてフィッシングメールのスクリプトやディープフェイク音声を生成するといったユースケースも存在します。IBM X-Forceのセキュリティ研究者は、より成熟したテクノロジーと同様に、AIシステムもより大規模な標的となることが予想されると警告しています。

AIの脅威対象領域は統合され始めたばかりですが、IBM X-Forceの研究者は、共通のテクノロジーと有効化モデルを中心とした業界環境が成熟すれば、脅威アクターはこれらのAIシステムをより広範囲に標的にし始めると予測しています。実際、市場の急速な成熟に伴い、この統合は進行しており、ハードウェア、ソフトウェア、サービスの各分野で既に大手プロバイダーが登場しています。

IBMの レポートは、自社のビジネスの一環として構築・使用するAIモデルを適切に保護していない企業である。GenAIツールの不適切な使用は、機密データの誤処理や漏洩につながる可能性がある。レポートによれば、従業員が企業のセキュリティチームによって承認・保護されていないGenAIツールを使用しているため、「シャドウAI」の使用が組織内で増加しているという。

この目的のため、IBMは1月にGenAIのセキュリティを確保するためのフレームワークを発表しました。その基本理念は、AIモデルのトレーニングに使用されるデータの一元管理、開発パイプラインの脆弱性スキャン、AI利用に関するポリシーとアクセス制御の適用、そして稼働中のAIモデルに基づく攻撃に対する保護を組み合わせたモデルのセキュリティ確保です。

AIパイプラインのセキュリティ確保

月曜日、IBMのX-Force Red攻撃セキュリティチームは、レッドチーム演習を通じてAIアプリケーション、AIモデル、MLSecOpsパイプラインを評価する人工知能テストサービスを開始しました。水曜日には、RSA Conference 2024において、IBMはAIパイプラインのセキュリティ確保とガバナンス確立に関する「Innovate Now, Secure Later? Decisions, Decision…」という講演を行います。

2人目の講演者は、IBM Securityのセキュリティ技術担当プログラム・ディレクター、ライアン・ドハティ氏です。TechTarget編集部のインタビューで、彼はAIをすぐに使える状態で保護することが、テクノロジー分野におけるIBM Securityの最大の懸念事項の一つであると述べました。「特に生成型AIの場合、この領域が非常に重要になるのはそのためです。生成型AIはビジネスアプリケーションやプロセスに深く組み込まれています。ビジネスファブリックを統合することで、潜在的なリスクや脅威をはるかに超えるレベルに到達します」とドハティ氏は述べました。

同氏によると、ビジネスの観点から見ると、 AI は その本質に基づいたものでなければならない。

「生成AIは膨大な機密ビジネスデータを用いて訓練され、運用されています。競争優位性は、これらの新たな貴重なデータから生まれるため、私たちはこれらのデータを守る必要があります。重要なのは、これらの組織が保有するデータと、生成AIを活用してアプリケーションに反映させ、ビジネスの改善に役立てている洞察です。」

ダハティ氏は、企業がモデルに多額の費用を支払っており、その費用は非常に高額だと付け加えた。こうした生成AIアプリケーションの運用には、膨大な知的財産と投資が投入されており、企業にはそれらを確保する余裕がないのだ。