生成AIがビジネスリーダーの間で懸念を引き起こす：研究

シニア経営者の90%以上が、監視されていない生成AIツールの使用について懸念を表明

サイバーセキュリティサプライヤーであるカスペルスキーが最近実施した調査によると、Cレベルの経営者の間で、組織内での生成型人工知能（GenAI）ツールの規制のない普及に対する懸念が高まっていることが明らかになりました。ビジネスリーダーの90%が、これらのツールの無制限な採用について懸念を表明しており、生成AIがさまざまなビジネス運用にますます統合されていることが明らかになりました。

生成AIの静かな浸透

カスペルスキーの調査によると、調査されたシニア経営者の過半数（53%）が、生成AIが現在、組織内の特定のビジネスラインを「推進」していると信じています。しかし、彼らの59%は、サイバーリスクの高まりにつながる、生成AIの「静かな浸透」について深い懸念を表明しました。適切な監視なしに従業員が生成AIを組み込むというこの「シャドウAI」現象は、データセキュリティとガバナンスに重大な課題をもたらします。

懸念される発見の一つは、調査されたビジネスリーダーのわずか22%だけが、組織内での生成AIの使用を監視するための内部ガバナンスポリシーの実装について議論したことがあるという点です。さらに、91%が、セキュリティリスクを軽減するためにこれらのツールの使用方法についてより良い理解を必要としていることを認めています。

カスペルスキーのシニアセキュリティリサーチャーであるDavid Emmは、この問題に対処する緊急性を強調し、「GenAIの急速な進化は現在、減速する兆候を示していないため、これらのアプリケーションが制御されずに運用されればされるほど、HR、財務、マーケティング、さらにはITなどの主要なビジネス機能全体での制御とセキュリティ確保が困難になります」と述べています。

データ侵害の懸念

生成AIはデータ入力を通じた継続的な学習に依存しているため、データ保護は最も重要な懸念事項です。善意で使用された場合でさえ、従業員は組織外に機密データを無意識のうちに送信し、データ侵害を引き起こす可能性があります。カスペルスキーの研究はこの懸念を反映しており、リーダーの59%がデータ損失のリスクについて深刻な懸念を表明しています。

これらの懸念にもかかわらず、調査では、ビジネスリーダーの50%が何らかの形で生成AIを活用する計画を立てており、主に反復的なタスクの自動化を目的としています。さらに、44%が生成AIツールを日常業務に統合する意向を示しています。注目すべきは、24%が生成AIをITおよびセキュリティ機能の自動化に使用することに前向きであるということです。

エム氏はこの傾向について、「機密データの損失や重要なビジネスユニットの管理喪失という可能性を考えると、経営陣が慎重になるのは当然と思われますが、私たちの調査結果では、業界のトップの約4分の1が、最も重要な機能の一部をAIに委譲することを現在検討していることが明らかになりました」と述べています。

しかし、彼はさらにGenAIを企業環境に統合する前に、包括的なデータ管理の理解と堅牢なポリシーの必要性を強調しました。

生成AIのリスクと便益をめぐる議論が注目を集めています。英国のリース・スナク首相は最近、生成AIに関連するリスクへの意識向上を呼びかけました。これは、業界のリーダーや専門家が規制の将来とこの新興技術の統合について議論するブレッチリーパークでのAI安全性サミットに先立ってのことです。

生成AIの両刃の剣

トレリックスのシニアバイスプレジデント兼ゼネラルマネージャーであるファビアン・レック氏は、生成AIの二面性を強調し、「生成AIは両刃の剣です。サイバーセキュリティ環境が継続的に進化している中、生成AIの普及はさらに複雑さを加えています」と述べています。

レック氏は、組織が生成AI技術の含意とその効果的な活用・統合方法について認識することが重要であると強調しました。生成AIツールは、日常業務の簡素化と生産性の向上という利点を提供しますが、コードインジェクション、フィッシング、ソーシャルエンジニアリング、ディープフェイク技術などの悪意のある活動での潜在的な悪用に関する懸念もあります。

彼は、組織がサイバー脅威に対する強靭な保護を構築するために、堅牢なセキュリティ対策と適切なテクノロジーソリューションの統合を優先するよう促しました。