AI導入が新たなサイバーセキュリティの脅威を顕在化

サイバーセキュリティの専門家は、 AI は 、犯罪者による攻撃の実行だけでなく合法的にも、それをサービスとして利用する企業にとって危険なサイバーセキュリティの脅威であると明らかにしました。

AIのサイバー脆弱性

AIを悪用して攻撃を仕掛ける悪意のある人物による脅威は広く議論されているが、AIに特化したサイバーセキュリティを提供するミッドガード社のCEO兼CTO、ピーター・ギャラガン氏は次のように述べている。「私が念頭に置いている問題は、まさにこの話題になっているAIに対するサイバーセキュリティの脅威です。」

企業によるAIの最も一般的かつリスクの高い活用法は、予想通り、顧客サービスとして機能し、そのトーンやデータは所属組織に合わせてカスタマイズされることが多いチャットボットです。ランカスター大学でAIセキュリティとシステムを専門とするコンピュータサイエンス教授のギャラガン博士は、2022年にMindgardを設立しました。「AIは魔法ではありません」とギャラガン博士は言います。AIは、単に追加のコーディング、データ、ハードウェアを組み合わせたものに過ぎません。現代のサイバー脅威を考えると、これらの脅威はすべてAIにも現れる可能性があります。.

こう考えてみましょう。攻撃者がSQLインジェクションと呼ばれるプロセスを使用したとします。攻撃者はこのプロセスを利用して、ウェブサイトのログインフォームやお問い合わせフォームなどのウェブフォームフィールドの脆弱性を悪用できます。テレプロンプターインジェクションを利用するもう一つの方法は、公開アプリケーションで使用されているプロンプトインジェクションです。まず第一に、セキュリティが十分に確保されていない場合、AIツールは事実上、ソースコードや命令、企業のIP、顧客データを漏洩させるほどの強引な手段を講じられる可能性があります。第二に、AIツールは他のソフトウェアアプリケーションと同様に、リバースエンジニアリングによって欠陥をdentことができます。.

AIシステムのセキュリティ確保

ギャラガン氏は、この問題の深刻さについて次のように述べています。「数年後には、国家安全保障上の問題が浮上したり、権利を奪われた人々が危険にさらされたりする可能性があります。今回の新たな情報は、企業は公開されたデータに注意すべきだという警告のように思えます。」.

ガラガン氏は、「さらに、AIはサイバー攻撃ツールとして利用され、データ漏洩を引き起こす可能性があります。モデルは、あなたが親切にも要求したデータを提供できるでしょう」と述べています。1月には、右派系ソーシャルメディアプラットフォームのGabが、チュートリアルを検索した際に、誤って手順が漏洩した事例がありましたdentベースのプラットフォームである OpenAI も、以前にモデルが悪用されたことがあります。

ギャラガン氏は、不正なVoIP攻撃によって情報を取得する可能性があると主張しています。また、AIはリバースエンジニアリングが可能で、システムをバイパスしたり、他のシステムへのオープンアクセスを誘導したりすることも可能だと述べています。したがって、情報漏洩は、外部または内部に直面する業界を含む、あらゆる業界に共通する主要なリスクの一つとなる可能性があります。ギャラガン氏はまた、モデル回避（​​モデルを誤導したり、偽造データによって意図的に回避したりする）などの他のリスクも挙げています。.

ギャラガン氏は、悪意のあるコマンドを挿入したり、誤った trac策でデータを汚染したりすることも脅威の一つだと指摘しました。さらに、サイバー攻撃の一般的な影響は、サイバー攻撃後に一般的に経験される風評被害であると指摘しています。同様に、この種のサイバー攻撃による悪影響のリスクが最も高いのは、リスクが最も高い分野です。多くの業界や機関がオンラインで事業を展開しているため、例えば公共の安全とdent情報の漏洩防止は、金融サービスやヘルスケア分野が優先すべき重要な価値です。.

ギャラガン氏はこう述べています。「ここで重要なのは、業界内で組織化され、管理されているほど、そしてAIから受けるリスクが多ければ多いほど（そして経験上、AIをあまり使わないほど、AIの導入も少なくなる）、AIの性能は悪くなるということです。もしかしたら、AIは怠惰なだけではないかもしれません。例えば、単に人生で最も深刻な時期を経験しているだけかもしれません。」.

積極的なAIセキュリティ対策

AIはあらゆる特定の企業におけるリスクに対処するだろうが、ユーザー保護のためには（ビジネスにおけるAIは既に必要としているため）多層的なセキュリティが必要になると彼は述べている。「既にさまざまな分野に特化したサイバーセキュリティツールが存在する」とガラガン氏は言う。「これらはセキュリティ態勢管理ツール、検出・対応ツール、ファイアウォール、コードスキャンなどのシフトレフト設計のサポートなどである。デジタル変革に合わせて、間もなく AI 。」この分野はAIと機械学習に特化しており、ニューラルネットワークのようなシステムは時折言及されるだけだ。

ニューラルネットワークのアプリケーションスキャナー、あらゆる種類のニューラルネットワークに対応する対応システム、セキュリティテスト、そしてアプリ間の制御を強化するためのレッドチーム演習が必要になります。ランタイムの問題よりも、早期に修正・修復する方が簡単です。しかし、AIモデルやAIアプリケーション、サービスを導入する組織に推奨するベストプラクティスは、本番環境に移行する前にモデルに関するすべての問題を修正しておくことです。そうすれば、本番環境に移行した後は、修正が必要な問題のみをdentできます。.