生成AIの展開における警鐘を鳴らすセキュリティギャップを特定

Cレベル経営者の82%が、安全で信頼できるAIが重要であると信じています。しかし、そのうちGenAIに関連するイニシアチブにセキュリティを組み込んでいるのはわずか24%です。これは、IBMとAmazon Web Servicesによる新しい調査結果によるもので、RSA Conference 2024で発表された共同研究であり、Cレベル経営者のAIの安全な活用事例を推進する方法に関する見解、特に生成AIに焦点を当てた調査の結果を詳細に示しています。IBMの報告によると、回答者のわずか24%が生成AIイニシアチブにセキュリティの次元を考慮しており、一方、約70%がセキュリティよりもイノベーションを優先すると答えています。

イノベーションとセキュリティのトレードオフ

ほとんどの経営者は、予測不可能なリスクがGenAIイニシアチブに影響を与えることを懸念していますが、セキュリティを優先していません。完全に実現したAIの脅威環境はまだ発生していませんが、ChatGPTや類似のツールを使用してフィッシングメールのスクリプトやディープフェイク音声を生成するなどの使用事例があります。IBM X-Forceのセキュリティ研究者は、より成熟した技術と同様に、AIシステムがより大規模に標的にされることがますます期待できると警告しています。

統合されたAIの脅威表面は形成され始めたばかりですが、IBM X-Forceの研究者は、業界の景気が共通の技術と有効化モデルの周りで成熟すると、脅威アクターがこれらのAIシステムをより広範に標的にし始めると予測しています。レポートにはこうあります。実際、市場が急速に成熟するにつれて、この収束は進行中であり、ハードウェア、ソフトウェア、サービスの各分野で主要なプロバイダーがすでに台頭しています。

IBMのレポートによると、より直接的に懸念されるのは、企業がビジネスの一部として構築・使用するAIモデルを適切に保護していない企業です。GenAIツールの不適切な適用は、機密データの mishandling（誤った取り扱い）や漏洩につながる可能性があります。レポートによると、「シャドウAI」の組織内での使用が増加しており、従業員がエンタープライズセキュリティチームによって承認・保護されていないGenAIツールを使用しているためです。

この目的のために、IBMは1月にGenAIを保護するためのフレームワークを発表しました。その基本的な原則は、AIモデルのトレーニングに使用されるデータを集中化し、脆弱性に対するスキャン開発パイプラインの組み合わせを使用してモデルを保護し、AI使用に対するポリシーとアクセス制御を強制し、ライブAIモデルベースの攻撃に対する使用を保護することです。

AIパイプラインの保護

月曜日、IBMのX-Force Red攻撃的セキュリティチームは、レッドチーム演習を通じてAIアプリケーション、AIモデル、MLSecOpsパイプラインを評価することを目的としたAIテストサービスを発表しました。水曜日、RSA Conference 2024でIBMは、「今すぐ革新、後でセキュリティ？ 決断、決断…」というタイトルで、AIパイプラインの保護とガバナンスの確立について発表します。

2番目のスピーカーは、IBM Securityのセキュリティテクノロジープログラムディレクターであるライアン・ダガーティです。彼はTechTarget Editorialに対し、箱から出してすぐにAIを保護することが、テクノロジー分野におけるIBM Securityの主要な懸念事項の一つであると述べました。彼は次のように述べています。「これがこの分野を非常に重要にする理由です。特に生成AIの場合、それはビジネスアプリケーションやプロセスに深く組み込まれています。ビジネスの基盤への統合は、潜在的なリスクや脅威を超えたものへと高めます。」

彼によると、ビジネスの観点から、AIはその本質に基づいた基盤を持つ必要があります。

「生成AIは、膨大な量の機密なビジネスデータを使用してトレーニングされ、運用されています。そして、私たちはそれらの新しい『王冠の宝石』を保護する必要があります。なぜなら、競争優位性はそのデータと、生成AIを使用して得られる洞察、そしてそれらをアプリケーション内で可視化してビジネスを改善することにあるからです。」

ダガーティ氏はさらに、モデルには多額の費用がかかると付け加えました。これらの生成AIアプリケーションを運用するには、多くの知的財産と投資が投入されており、企業はそれらを保護する余裕がない場合がほとんどです。