英国企業の3分の1が、LLM導入におけるデータセキュリティを主要な懸念事項として挙げる

英国の企業の3社に1社が、Large Language Models（LLM）を使用する際のデータ安全性を懸念しています。これは、LLMがコマンドや質問に応答するアシスタントから、人間の絶え間ない介入なしに行動する独立したシステムへと進化しているためです。

その結果、これらの組織は AIエージェント 運用システムに完全に組み込むことに消極的です。彼らは、データを機械に「自分で考える」能力を与えることで、データとセキュリティの制御を失うことを恐れているからです。

英国政府は、これらの課題に対処するための措置を講じています。 内閣府大臣のパット・マクフェーン氏は、今後数年間でAIがサイバー脅威をエスカレートさせることを示す情報評価の機密解除を発表しました。

2024年、NCSCはほぼ2,000件のサイバー攻撃の報告を受け、そのうちほぼ90件が「重要」、12件が「深刻度の非常に高いレベル」と見なされました。これは、前年と比較して深刻な攻撃の数が3倍になったことを意味します。

英国企業、LLMにおけるデータセキュリティに赤信号

英国の企業は、英国の Data Protection Act およびEUの一般データ保護規則（GDPR）など、人々のデータを保護し、その不正使用を防ぐ厳格な規制を遵守する必要があります。

これらの法律に違反した企業は、法的措置や評判の毀損のリスクに直面するため、LLM戦略を見直しています。AIは、慎重な人間の監督や正確なプロンプトなしに、機密情報を明らかにしたり、誤解を招く結果を生成したりする可能性があります。 

当初、チャットボットなどのAIツールは固定された回答を提供し、スマートサーモスタットは単純なルールに従って温度を変更するだけであり、新しいデータ、過去の行動、または意思決定の結果から思考したり学習したりしませんでした。しかし、今日のAIエージェントはLLMを使用してデータから学習し、新しい情報に基づいて行動を変更し、人間のように推論して異なる問題を解決します。 

しかし、それははるかに大きな懸念の一部に過ぎません。人々はエージェントにタスクを処理するようにプロンプトを入力することができ、エージェントはそれをより小さな活動に分解し、それぞれを個別に処理し、結果を評価します。さらに、一部のエージェントは複雑なタスクを処理するために連携し、1つが作業を行い、もう1つが結果をチェックして成果を改善します。 

この成長は企業の業務自動化を助け、人間のチームが使用していた時間を削減しますが、同時に脅威でもあります。これらのエージェントが独自に下す決定が増えるほど、私たちがそれらの行動を完全に理解、予測、制御することが難しくなるからです。同様に、それらのミスの結果は指数関数的に増大する可能性があります。なぜなら、これらのAIエージェントは人間の入力待ちなしに行動するからです。 

企業、部門全体でAIエージェントを慎重に採用

英国の多くの企業が日常業務でAIエージェントを使用しており、カスタマーサービス、人事（HR）、マーケティングなどの部門が、これらのツールをゆっくりとテストし、注意深く監視しています。

良いビジネスの例として、Pets at Homeは獣医スタッフのためにAIエージェントを構築し、ペットの健康診断中に迅速な回答とサポートを提供しました。これは、AIエージェントが実際の仕事における小さな役割においていかに有用であり続けているかを示しています。 

現在、ほとんどのエージェント型AIシステムは、人間の完全な置き換えには準備ができておらず、人がそれらをガイドし、作業を確認し、エラーを修正する必要があります。しかし、将来、企業はAIエージェントをシステムに組み込む一方で、制御を維持することを可能にする難しい決定を下す必要があるかもしれません。